Быстрее, выше и хуже
Как стремление к максимально быстрой разработке ИИ-инструментов вредит их качеству
Многие специалисты в сфере ИИ говорят, что жесткая конкуренция между компаниями в этом сегменте и связанная с этим постоянная гонка вредят качеству выпускаемых продуктов и ведут к выгоранию работников сектора. Проекты забрасываются после создания первых прототипов, компании выпускают сырые продукты, а специалисты указывают на недостаточное внимание к безопасности или этическим вопросам.
Фото: Александр Миридонов, Коммерсантъ
Фото: Александр Миридонов, Коммерсантъ
Нужная всем технология
Нейросеть ChatGPT была представлена компанией OpenAI всего полтора года назад — в ноябре 2022-го. С тех пор генеративный ИИ оказался в центре беспрецедентного внимания, а другие компании, в числе которых Google, Microsoft, Apple, Amazon, включились в гонку по разработке собственных систем. Корпорации тратят десятки миллиардов долларов на разработку чат-ботов, генераторов изображений и другие подобные инструменты. Объем этого рынка, по прогнозам Bloomberg Intelligence, к 2032 году достигнет $1,3 трлн.
Многие компании заявляют, что разработка ИИ станет для них важнейшим направлением на ближайшие годы.
В феврале финансовый директор Microsoft Эми Худ заявила, что инвестиции в ИИ будут приоритетными для компании, так как именно эта технология «будет определять ближайшее десятилетие». В конце апреля генеральный директор Meta (признана экстремистской и запрещена в РФ) Марк Цукерберг во время презентации квартальных результатов больше всего говорил про ИИ. Он сообщил о планах компании инвестировать в эту сферу дополнительные $5 млрд.
На прошлой неделе гендиректор Amazon Энди Джесси заявил, что разработка генеративного ИИ потребует увеличения капиталовложений компании. «Я не думаю, что кто-то из нас видел такие (беспрецедентные.— “Ъ”) возможности в технологиях за долгое время — точно с появления облачных технологий, а может быть, и с появления интернета»,— заявил он.
«Крысиные бега за ИИ»
Повышенное внимание к искусственному интеллекту влечет за собой и серьезные издержки. Специалисты в этой сфере все чаще жалуются на то, что жесткая конкуренция и необходимость представлять новые ИИ-инструменты как можно быстрее все больше вредит качеству. Основной целью становится создать привлекательную для инвесторов картину и угнаться за лидером рынка генеративного ИИ OpenAI, а не представить хороший продукт.
CNBC поговорила с несколькими ИИ-специалистами из компаний, в числе которых Google, Microsoft и Amazon. Большинство из них считают, что такие негативные явления свойственны не для какой-то одной компании, а для разработок в сфере генеративного ИИ в целом.
Один из сотрудников Microsoft описал ситуацию как «крысиные бега за ИИ».
Другой разработчик охарактеризовал бОльшую часть деятельности в сфере генеративного ИИ как «массу “дутого” ПО (vaporware — так называют ПО, о разработке которого много говорят, но которое в итоге не выпускается.— “Ъ”) и шумихи». По его словам, каждые две недели объявляется о каких-то громких новинках, но по факту есть ощущение, что все делают одно и то же.
Еще одна проблема, о которой говорят многие специалисты,— метание между разными решениями и регулярный отказ от одних инструментов в пользу других. Один из сотрудников Amazon рассказал, как однажды ему пришлось работать над новым ИИ-решением все выходные только для того, чтобы вскоре компания отказалась от его разработки. По его мнению, компаниям важно прежде всего поставить галочку о наличии у них того или иного инструмента и их волнует прежде всего скорость, а не качество.
Один из разработчиков рассказал, как его команда неоднократно по несколько недель разрабатывала демоверсии ИИ-инструментов. Их презентовали инвесторам и после этого забывали навсегда.
Сотрудник Microsoft также рассказал, как разработчики создавали алгоритм для решения конкретной проблемы — в итоге от этого варианта отказались и заменили его использованием генеративной модели. По его словам, это было менее эффективно, более дорого и медленно. «Худшее по качеству решение» было выбрано просто потому, что оно связано с ИИ.
Часто из-за нехватки времени на тестирование многие продукты выпускают сырыми. В феврале Google представила генератор изображений Gemini и вскоре после этого приостановила его работу после жалоб пользователей на неточности и ошибки.
По мнению многих представителей отрасли, разработанные в таких условиях инструменты не решают проблем пользователей и не помогают бизнес-клиентам. «Очень часто вас просят разработать решение проблемы, которая не существует, с помощью инструмента, который вы не хотите использовать»,— отмечает независимый разработчик Морри Колман.
Выгорание и этические проблемы
Представители отрасли также говорят о сильной нехватке рабочих рук. Все компании одновременно ищут сотрудников в свои ИИ-команды, и таких специалистов закономерно не хватает.
В результате сотрудников нанимают без опыта, причем из-за спешки они не успевают учиться. Одна из стажеров в команде Google по ИИ описала это как «сборку самолета во время полета на нем».
Высокие темпы работы ведут к регулярному выгоранию работников. Бывший сотрудник Apple Эрик Гу, в течение четырех лет работавший в компании над ИИ-разработками, рассказал, что к концу этого времени чувствовал себя «запертым в клетке». «Все сводится к скорости, на которой вы должны разрабатывать и выпускать»,— отметил господин Гу.
Многие разработчики рассказали, что из-за выгорания они уволились из компании или перешли в другие команды, не связанные с ИИ.
Еще одна проблема, о которой говорят многие ИИ-специалисты,— то, что в условиях такой гонки корпорации не обращают внимания на серьезные проблемы, связанные с их разработками. Например, на кибербезопасность, потенциальное негативное влияние ИИ на окружающую среду и на другие возможные риски.
По мнению Айоделе Одубелы, дата-аналитика и консультанта по политике в сфере ИИ, недостаточная подготовка сотрудников, работающих над такими инструментами, и общая спешка повышают этические риски внедрения ИИ. Например, генератор изображений Gemini отключили в том числе после того, как пользователи пожаловались на то, что он генерирует изображения чернокожих и азиатских солдат вермахта.
«Главное, чего не хватает,— возможности работать с экспертами из разных предметных областей и оценивать проекты так строго, как они должны оцениваться перед выпуском. Я думаю, главный вред состоит в том, что нет времени критически мыслить»,— считает госпожа Одубела.