Компании, владеющие социальными сетями, направляются в суд из-за проблем с психическим здоровьем детей, и, как стало известно, судья из Нью-Мексико только что потребовал от Meta предоставить записи чат-ботов в рамках одного из ключевых судебных исков. (Axios)
Почему это важно: Судебные иски, направленные против вызывающих привыкание алгоритмов и их влияния на психическое здоровье детей, — это только начало новой правовой эры, в которой ИИ может стать непредсказуемой силой.
Текущее положение дел: На слушании 7 ноября генеральный прокурор Нью-Мексико Рауль Торрес выиграл дело против Meta, добившись включения записей чат-бота с искусственным интеллектом в иск, который должен быть рассмотрен в феврале, согласно судебным документам. Пока неясно, какие именно записи необходимо будет предоставить Meta.
Дело было возбуждено в 2023 году в связи с предположительно вызывающими привыкание алгоритмами Meta в социальных сетях и дизайнерскими решениями, которые не защищают детей от интернет-хищников.
«Это совершенно нереально, поскольку до завершения процесса раскрытия фактов осталось всего два месяца, а до суда — четыре», — написала Мета в иске от 10 октября против предоставления записей чат-бота.
Помимо вопроса о сроках, Meta в своем заявлении утверждает, что чат-боты не имеют отношения к делу и выходят за рамки сферы действия дела.
В Калифорнии присяжные вскоре будут рассматривать дела, касающиеся вызывающих привыкание алгоритмов и особенностей дизайна социальных сетей, таких как бесконечная прокрутка.
Чат-боты не являются официальной частью этих дел о наркозависимости.
Однако Лора Маркес-Гарретт из Центра правовой защиты жертв социальных сетей заявила, что общественное сознание в отношении генеративного ИИ меняется, и люди начинают лучше понимать, как компании могут причинить вред, и это неизбежно повлияет на судебные разбирательства по делам о зависимости.
«Присяжные, безусловно, поймут, что эти компании наносят вред детям, используя инструменты на основе искусственного интеллекта», — сказала она.
Да, но: не стоит ожидать, что доказательства, связанные с чат-ботами, будут представлены в судебных процессах Калифорнии, или вопросов к генеральному директору Meta Марку Цукербергу и другим руководителям технологических гигантов, которые должны дать показания по этой теме. Вопросы касаются конкретных функций дизайна, таких как автовоспроизведение видео и бесконечная прокрутка.
Хотя любые изменения в общественном сознании имеют свои пределы в ходе текущего судебного разбирательства, юристы, законодатели и регулирующие органы готовятся к новому правовому ландшафту, созданному ИИ.
Общая картина: сейчас все чаще возникают судебные иски против создателей чат-ботов, в центре внимания которых — воздействие на психическое здоровье несовершеннолетних и потребителей всех возрастов.
Федеральная торговая комиссия также начала расследование безопасности чат-ботов на основе искусственного интеллекта, потребовав от семи компаний информацию о негативных эффектах использования чат-ботов подростками и детьми .
Продолжайте читать ниже...
Законодательство о чат-ботах
Законодатели по всей стране также пытаются выяснить, как бороться с чат-ботами.
Губернатор Калифорнии Гэвин Ньюсом (демократ) недавно подписал закон , требующий от операторов чат-ботов наличия протоколов для реагирования на контент или взаимодействия, связанные с самоубийством или самоповреждением, например, направление пользователя на горячую линию кризисной помощи.
Новый закон обязывает чат-ботов каждые три часа уведомлять несовершеннолетних о том, что им следует «сделать перерыв», и что чат-бот не является человеком.
У Конгресса нет положительной репутации в регулировании технологий.
Недавно некоторые сенаторы внесли двухпартийный законопроект, который запретит использование искусственного интеллекта в качестве компаньонов для несовершеннолетних, а Конгресс в этом году принял закон TAKE IT DOWN Act, обязывающий платформы удалять неконсенсуальные интимные изображения и криминализирующий публикацию такого контента.
Однако законодатели на Капитолийском холме не стали регулировать социальные сети и не приняли значимых законов о конфиденциальности данных, и эта неудача подготовила почву для эпохи искусственного интеллекта.
Что они говорят: «Маловероятно, что Конгресс примет действительно жесткие и радикальные законы о безопасности социальных сетей и искусственного интеллекта», — заявил Дэнни Вайс, главный специалист по вопросам защиты интересов в Common Sense Media.
«Поэтому идея сделать что-то посредственное или слабое, а затем опередить штаты, обречена на провал для тех из нас, кто работает в этой сфере».
С другой стороны: компании корректируют свою политику в отношении безопасности детей, включая родительский контроль, ограничения для несовершеннолетних и продвигают законодательство о проверке возраста.
Что мы наблюдаем: Некоторые обозреватели утверждают, что в то время как генеративный ИИ может стать камнем преткновения в судебных исках против вызывающих привыкание алгоритмов, человекоподобные роботы вполне могут стать следующей сферой судебных разбирательств в сфере ИИ.
Эксперты призывают к проведению оценок эмоциональной безопасности и разработке политик, которые смягчат психологический стресс, вызванный человекоподобными роботами, создаваемыми в качестве помощников.
«Нам с трудом удаётся справиться даже с социальными сетями, поэтому вот что я бы сказал о робототехнике: молю Бога, чтобы мне никогда не пришлось об этом думать», — сказал Маркес-Гарретт.
«Это всё та же технология: искусственный интеллект. Пока мы не удостоверимся в её безопасности, какого чёрта мы позволим какой-то компании создать транспортное средство без испытаний?»
Мария Кури
(в пересказе)
