Насколько безопасно использовать нейросети для программирования

Программисты стали активнее пользоваться искусственным интеллектом для написания кодов. Об этом сообщают «Ведомости» со ссылкой на данные операторов связи. Они подсчитали количество уникальных пользователей самых популярных инструментов — это продукты от OpenAI, GitHub и Microsoft. С 2022-го показатель ежегодно растет в десятки раз.

О том, как работают помощники для написания кода, рассказал главный редактор портала ITZine.ru Сергей Кузнецов: «В последнее время, особенно с учетом появления модели OpenAI o1, у ChatGPT стало все сильно лучше. Я использую его для написания каких-то простеньких скриптов и даже не очень простеньких либо, чтобы поговорить, обсудить проблему, может быть, подумать в какую-то сторону, то есть вместо брейншторма. ChatGPT иногда предлагает какие-то хорошие вещи.

Также я использую Copilot в Visual Studio Code, чтобы чуть проще было писать, условно, он подсказывает не всегда правильно, не всегда то, что мне нужно, но это довольно просто и быстро. То есть вам не нужно писать ручками какие-то базовые объявления переменных. Понятно, что с какими-то сложными функциями нейронки по-прежнему справляются не идеально, но опять-таки у ChatGPT и Copilot есть доступ к интернету, они иногда находят какие-то готовые решения и вам их предлагают.

Ничего нового, скорее всего, они придумать не смогут, просто это немного более "умный" поиск. Если раньше нужно было идти в Google или "Яндекс", искать какую-то статью, копаться в ней, разбираться, сейчас все это стало гораздо проще.

Вы задаете вопрос нейросети или вообще внутри кода своего находитесь, нажимаете пару кнопок, и у вас есть готовый ответ».

В то же время для решения чувствительных для бизнеса задач такие инструменты лучше не использовать или, если есть ресурсы, создавать собственных помощников, отмечает IT-эксперт, специалист МТС Александр Баулин: «Когда вы используете ChatGPT или ИИ-модели от других ведущих разработчиков, они могут быть более производительными, более умными. Но вы никогда не знаете, что там с безопасностью, насколько эта информация надежно хранится. Мы знаем, что были случаи, когда исследователи публиковали скрипты ChatGPT, с помощью которых им удавалось выудить информацию либо от других пользователей, либо информацию о том, какие установки заданы.

Да, в коммерческой лицензии OpenAI прямо говорится, что запросы нигде не сохраняются. Соответственно, сама компания для обучения своих моделек их использовать не может. Но, во-первых, были примеры, когда ИИ-модели выдавали контент, защищенный авторскими правами. Во-вторых, вы не можете быть уверены в том, что все реализовано в чужой системе достаточно надежно. Принцип как и с остальным софтом: если хотите быть уверены, что информация никуда не утекает и не может утечь, то делайте софт сами.

Сложно создать не только помощника, который будет писать код, но и убедиться, что он его пишет безопасно и корректно. Когда вы обладаете ресурсами, не только разработчиками, важно иметь облако с GPU-серверами, которые позволяют быстро обучать ИИ, в принципе, вполне нормально создать свою ИИ-модель, которая будет помощником в вопросах разработки. Если таких ресурсов нет, тогда нужно выбирать, кому доверять».

По данным оператора Т2, чаще всего ботами для написания кода пользуются люди в возрасте от 25 до 54 лет. Больше половины аудитории таких сервисов составляют мужчины.

С нами все ясно — Telegram-канал "Ъ FM".

Илья Сизов