Обоснованы ли опасения уволившегося из Google ученого Джеффри Хинтона

«Крестный отец» искусственного интеллекта заявил об опасности нейросети для человечества. Ученый Джеффри Хинтон, который занимался этой проблемой последние 50 лет, на днях уволился из Google. Он считается одним из самых узнаваемых информатиков в мире. И 2018-м получил премию Тьюринга, которую называют аналогом Нобелевской медали в мире вычислительной техники. Его страхи разделяют многие известные техно-предприниматели, включая Илона Маска и одного из основателей Apple Стива Возняка. В чем заключаются опасения Хинтона? И обоснованы ли они? Разбирался Иван Хорушевский.

«Немногие предполагали, что нейросети действительно станут умнее людей, я сам считал, что это произойдет лишь через 30-50 лет. Но это произошло уже сейчас»,— полагает Джеффри Хинтон. Позитива мало, по мнению ученого, теперь нейросети способны создавать фейки, неотличимые от правды, а еще машины вскоре отправят на биржу труда слишком большое количество людей.

Из-за похожих опасений в марте более тысячи экспертов, среди которых Илон Маск и Стив Возняк, призвали на полгода остановить обучение более мощных нейросетей. Впрочем, сами разработчики относятся к таким заявлениям скептически, говорит генеральный директор компании Cognitive Pilot Ольга Ускова:

«У Google тема с искусственным интеллектом пошла криво, и я думаю, что уход Хинтона, скорее всего — это сокращение человека, который не проявил себя в направлении. Поэтому ученому надо как-то сохранить лицо. Аналогичная ситуация с Маском: сейчас он запустил свой проект X.AI, ему нужно время для того, чтобы разогнаться до определенного уровня и перекупить некоторых сотрудников, в том числе из OpenAI.

Поэтому странное требование притормозить работу над ИИ на шесть месяцев, — это, собственно говоря, работа с конкурентами».

Нейросети уже смогли создать сразу несколько правдоподобных фейков. ChatGPT, например, оклеветал американского профессора права, обвинив его в сексуальных домогательствах к ученикам. Искусственный интеллект сослался на несуществующую статью в авторитетном издании. Эксперты считают, что в будущем подобные фейковые материалы вполне могут использовать злоумышленники, например, в целях шантажа или ради создания спам-рассылок. Впрочем, способ избежать этого есть. Можно разработать системы фактчекинга внутри самих нейросетей, считает эксперт в области искусственного интеллекта Роман Душкин:

«Языковая модель генерирует, например, ответ, а потом при помощи плагина проверяет этот ответ на актуальность. И если проверка пройдена, она возвращает его пользователю, если нет, то нейросеть сообщает: извините, я на эту тему не могу говорить».

Но если от фейков, в теории, можно защититься, то вот конкуренции с искусственным интеллектом на работе не избежать. Например, техногигант IBM в ближайшие пять лет планирует заменить машинами около 8 тыс. сотрудников, увеличив производительность труда и сэкономив миллиарды долларов.

Примеру IBM вполне могут последовать и другие игроки рынка, но тогда нейросети будут захватывать рабочие места слишком быстро, полагает профессор испанского Pompeu Fabra University Рубен Ениколопов:

«Сейчас искусственный интеллект прежде всего вытесняет людей. При этом создается не так много новых вакансий по работе с нейросетями. То есть процесс идет непропорционально. Еще не успели реализовать и придумать какие-то механизмы компенсации, переобучение людей, которые проигрывают конкуренцию искусственному интеллекту, а он уже наступает».

Безработица сократит потребительский спрос по всему миру, производители будут вынуждены выпускать меньше товаров, а это грозит новым экономическим кризисом. Однако вряд ли ситуация будет развиваться по столь драматичному сценарию, считают собеседники “Ъ FM”. Впрочем, они отмечают, что эволюция нейросетей точно приведет к новой индустриальной революции.

Рутинную работу с документами начнет выполнять искусственный интеллект. Появится спрос на более креативные специальности. Чтобы получить желанное место в любой компании, соискателям придется дольше учиться и позже начинать карьеру. Но и заработок у людей, а не машин, в итоге вырастет.

Новости в вашем ритме — Telegram-канал "Ъ FM".