Лилия Алеева о рисках динамичного развития нейросетей

Илон Маск, Стив Возняк, Стивен Рассел и еще более 1 тыс. специалистов в области компьютерных технологий и нейросетей опубликовали открытое письмо, в котором заявили о необходимости приостановить на шесть месяцев обучение систем искусственного интеллекта. Эксперты считают, что неконтролируемое совершенствование технологии может нести угрозу человечеству. Накануне ученый из Бельгии покончил с собой после шести недель общения с чат-ботом OpenAI. О том, какую угрозу может нести неконтролируемое развитие технологии ИИ, «Ъ-Кубань» рассказала директор по маркетингу и прямым продажам ICL Services, кандидат экономических наук Лилия Алеева.

«Поскольку технологии искусственного интеллекта продолжают развиваться беспрецедентными темпами, растет обеспокоенность по поводу возможных рисков, которые они представляют. Хотя ИИ может революционизировать многие аспекты нашей жизни, он также создает ряд этических, социальных и политических проблем, которые необходимо решить.

Одним из наиболее значительных рисков, связанных с ИИ, является возможность предвзятости и дискриминации. Алгоритмы машинного обучения беспристрастны ровно настолько, насколько объективны данные, на которых они обучаются, и если эти данные искажены или неполны, полученная в результате система ИИ может увековечить или даже усилить эти предубеждения. Например, было показано, что технология распознавания лиц менее точна для цветных людей, что вызывает опасения по поводу расового профилирования и дискриминации.

Еще одним риском является потенциальная потеря рабочих мест и экономический спад. По мере того как технологии искусственного интеллекта и автоматизации становятся все более совершенными, они могут заменить людей во многих отраслях, что приведет к значительным потерям рабочих мест и экономическим потрясениям. Это может усугубить неравенство и создать новую социальную и политическую напряженность.

Есть также опасения по поводу возможности использования ИИ в злонамеренных целях. Например, могут быть разработаны автономные системы вооружения, способные принимать решения о жизни и смерти без вмешательства человека, что вызывает опасения по поводу этичности таких технологий и возможных непредвиденных последствий.

Наконец, существуют более широкие опасения по поводу влияния ИИ на общество в целом. По мере того как системы искусственного интеллекта становятся более совершенными и повсеместными, у них есть потенциал кардинально изменить наши социальные и политические структуры. Например, полицейские системы прогнозирования на основе ИИ могут использоваться для усиления предубеждений и неравенства в системе уголовного правосудия.

В целом, несмотря на то что технологии искусственного интеллекта предлагают много интересных возможностей для будущего, они также представляют собой ряд значительных рисков и проблем, к которым следует относиться серьезно. Поскольку мы продолжаем развивать эти технологии, мы должны гарантировать, что делаем это этичным и ответственным образом, принимая во внимание потенциальные риски и выгоды для всех членов общества».

Читайте нас в Telegram