Какие специалисты смогут обучать умные чат-боты

ChatGPT спровоцировал появление новой профессии с вилкой зарплаты от $14 тыс. до $27 тыс. в месяц. Речь идет о так называемых «шептунах» — оперативных инженерах, которые будут заниматься написанием подсказок для чат-бота. Таким образом они должны облегчить работу с технологией для пользователей. О появлении первых таких вакансий на американском рынке труда сообщил Bloomberg.

Важная деталь — такие специалисты помимо технических навыков должны иметь образование в сфере, в которой собираются давать подсказки. Например, в области истории, философии или английского языка.

Это поможет решить проблему с неточностями и ошибками в ответах ChatGPT, уверен специалист в области искусственного интеллекта Игорь Щербаков. По его мнению, скоро такие сотрудники будут востребованы и на российском рынке, ведь модель необходимо адаптировать к русскому языку:

«ChatGPT — это не просто черный ящик, который творит волшебство. По сути, это хорошая нейронная сеть, и вокруг нее выстроена достаточно адекватная инфраструктура, помогающая маршрутизировать запросы пользователей.

Мы, например, делаем запрос: "Напиши мне список ресторанов в Москве". Но он может быть неоптимальным для нейросети, его необходимо преобразовать в так называемый промт, и уже на основании этого промта ИИ сможет дать адекватный ответ. Например, выкидываются лишние слова, добавляются уточняющие слова.

Профессия "шептуна" находится на стыке двух областей: искусственного интеллекта и предметной области, которая интересна пользователю. Что касается бизнес-кейсов, человек может спросить: "Нейронная сеть, прочитай, пожалуйста, диалог менеджера с клиентом и определи, почему клиент был недоволен". ИИ не сможет ответить на это адекватно, и вот здесь как раз нужна помощь "шептуна", который в запрос пользователя добавит нужные пояснения. Промт получится из двух частей — пользовательской и поясняющей, которую написал человек-"шептун". Он, наверное, не работает в онлайне, а просто пишет алгоритм, который преобразовывает запросы пользователя в запросы к нейронной сети».

Но появление таких специалистов необходимо не только ради развития сферы, считает преподаватель Школы глубокого обучения МФТИ Татьяна Гайнцева:

«Это, во-первых, безопасность. Создавая такие большие модели, компания очень сильно беспокоится о безопасности, OpenAI в том числе. Разработчики, выпускавшие GPT4, написали большой технический репорт, где обозначили свои волнения по поводу безопасности этих моделей. Недавно появилась новость, что в Бельгии человек после общения с чат-ботом покончил с собой. Нужно убедиться, что нейросети безопасны и не будут подталкивать пользователя к суициду, убийствам.

Разработчики сами не до конца понимают, что может умный бот, поэтому и приглашаются специалисты, которые пробуют разные варианты общения с моделью. Они должны убедиться, что ничего плохого она не выдаст».

29 марта СМИ стало известно, что более тысячи известных исследователей, топ-менеджеров и основателей IT-компаний призвали приостановить обучение мощного искусственного интеллекта хотя бы на полгода. В их числе изобретатели Илон Маск и Стив Возняк. А сегодня основатель Tesla поделился с подписчиками в соцсетях анекдотом об искусственном интеллекте: «Агностики построили искусственный сверхинтеллект, чтобы узнать, есть ли бог. Они задают ему вопрос, и он отвечает — "Теперь есть"».

Новости в вашем ритме — Telegram-канал "Ъ FM".

Сабина Адлейба