Сенаторы увидели в искусственном интеллекте естественную угрозу

В четверг в комиссии Совета федерации по информационной политике и взаимодействию со СМИ прошел круглый стол, посвященный злоупотреблениям с использованием искусственного интеллекта и возможностям противодействия этому. Сенаторы констатировали, что нейросети несут угрозу не только кошелькам рядовых граждан, находясь на вооружении финансовых мошенников, но и национальной безопасности, ведь их разработкой занимаются противники России.

Открывая мероприятие, глава комиссии Алексей Пушков сразу сообщил, что развитие искусственного интеллекта (ИИ) несет риски с точки зрения мошенничества и вовлечения граждан в противоправную деятельность, в том числе террористическую. Кроме того, поскольку ИИ не «самопознающая субстанция», то он зависит от создателя и воспроизводит «повесточку», которую в него закладывают, подчеркнул сенатор. В пример он привел чат-бот Gemini, который назвал ошибку в определении пола 74-летнего трансгендера Кейтлин Дженнер более опасной для человечества, чем ядерная война. «Потому что ядерная война — это некая абстракция, а это — то, о чем постоянно говорят, толкуют в СМИ. То есть ИИ реагирует на общественный запрос»,— объяснил господин Пушков.

Член Совета по правам человека при президенте Игорь Ашманов развил эту мысль, рассказав, что обучением искусственного интеллекта «правильным идеологическим штампам» занимаются десятки тысяч специальных сотрудников. Из-за дороговизны генеративный ИИ в России в основном заимствованный, и это является «огромной проблемой», подчеркнул эксперт: «Это штука, влияющая на сознание, которая должна отвечать за фейки. А кто должен отвечать? Разработчик, который туда это все засунул или который не санировал систему».

Первый заместитель главы комитета Совета федерации по конституционному законодательству и государственному строительству Ирина Рукавишникова привела примеры использования ИИ, которые уже приводили к «катастрофическим последствиям».

В частности, госпожа Рукавишникова напомнила дело гидролога Александра Цветкова, которого около года держали под арестом по делу об убийствах 20-летней давности: ИИ посчитал, что его лицо на 55% совпадает с фотороботом преступника, который был составлен в 2003 году.

Другой пример — история из США, где учитель использовал нейросети, чтобы скомпрометировать директора и добиться его увольнения. «Фейки и дезинформация могут быть использованы не только в отношении конкретного человека, но и против государства»,— предупредила сенатор, добавив, что самое опасное, когда такой контент направлен против несовершеннолетних и на искажение исторической правды.

Член того же комитета Артем Швейкин заявил, что первым делом для противодействия злоупотреблениям технологией искусственного интеллекта нужно просвещать население, а также проводить мониторинг социальных сетей. Кроме того, сенатор рассказал о разработке законопроекта, который установит необходимость получения согласия на синтезирование контента на основе голоса конкретного гражданина.

Алексей Пушков в связи с этим напомнил, что для противодействия злоупотреблениям необязательно прибегать к принятию принципиально новых законов — достаточно настроить действующие. Это касается, в частности, вопросов вовлечения в террористическую длительность и телефонного мошенничества, особенно с учетом того, что ИИ уже используют на Украине, подчеркнул сенатор.

Наконец, глава комиссии коснулся «темы ценностей, которую ИИ все более активно воспроизводит». «Ценностный разрыв (России с Западом.— “Ъ”) огромен. Когда мы говорим, что мерзавцы из Facebook (принадлежит Meta, признанной экстремистской организацией и запрещенной в РФ.— “Ъ”) или YouTube ссылаются на правила сообщества, которые нельзя нарушать,— на тему расовой повестки, гендерной повестки и так далее… Эта ценностная повестка, которая воспроизводится западными моделями ИИ, она поддерживается большинством западного общества,— заявил господин Пушков.— Мы боремся не с YouTube, и не с Google, да и не с Цукербергом (Марк Цукерберг, глава Meta, признанной экстремистской организацией и запрещенной в РФ.— “Ъ”). Это просто верхушка айсберга, а за ними — миллионы людей, которых убедили, что это правильно: человек имеет право на это, а родители не имеют права запретить десятилетнему делать операцию по смене пола». И люди вот с такими ценностями «приходят разрабатывать ИИ», подытожил Алексей Пушков.

Андрей Прах