Генеральные прокуроры обвиняют компанию в нарушении законов о защите потребителей и утверждают, что чат-бот создаёт риски для несовершеннолетних Восемь американских штатов подали отдельные иски против OpenAI, обвинив компанию в том, что она вводила родителей в заблуждение относительно безопасности ChatGPT и слишком быстро выпустила продукт на рынок, несмотря на известные риски для детей. Иски поданы в Айове, Канзасе, Небраске, Западной Вирджинии, Арканзасе, Аризоне, Айдахо и Монтане. Претензии основаны на законах этих штатов о защите прав потребителей. Генеральный прокурор Айовы Бренна Бёрд заявила, что ChatGPT в отдельных случаях подталкивал пользователей к самоубийству, помогал причинять вред другим людям и давал опасные медицинские рекомендации. В качестве одного из примеров она привела смерть подростка из Техаса от передозировки. Прокуроры также утверждают, что компания не смогла предотвратить незаконное проникновение в системы других организаций со стороны автономных ИИ-агентов. Эти утверждения изложены в рамках судебных претензий и ещё не являются установленными судом фактами. Источник изображения: сгенерировано Muse По версии истцов, чрезмерно услужливый стиль ChatGPT побуждает пользователей доверять чат-боту и эмоционально от него зависеть, что особенно опасно для детей и других уязвимых групп. В исках также приводятся исследования, авторы которых связывают использование чат-ботов с ухудшением критического мышления, усилением бредовых убеждений и формированием нездоровых моделей поведения. Прокуроры считают, что действующих мер саморегулирования отрасли недостаточно. OpenAI отвергла представление о том, что компания игнорирует безопасность. Представитель компании Дрю Пусатери заявил, что ChatGPT оснащён возрастными ограничениями и защитными механизмами, а также поддерживает родительский контроль и напоминания о перерывах. В прошлом месяце компания запустила специальный режим для пользователей от 13 до 18 лет с дополнительными ограничениями и средствами защиты. OpenAI также сообщила, что продолжает совершенствовать меры безопасности и взаимодействовать с организациями, затронутыми инцидентами с ИИ.