Джеффри Эпштейн появился в виде нескольких AI-чат-ботов на платформе для ролевых игр.
Источник:
По данным СМИ, в интернете найдены искусственные интеллектуальные модели, которые имитируют личность покойного преступника Джеффри Эпштейна. Это открытие спровоцировало призывы к более жёсткому регулированию быстрорастущей индустрии чат-ботов.
Габриэль Шоу заявила, что боты повторно травмируют жертв.
Источник:
Около 20 тревожных виртуальных копий опозоренного финансиста обнаружили на популярной платформе для ролевых игр. Активисты предупреждают, что такая технология рискует «нормализовать насилие» и романтизировать преступников.
Активисты предупредили, что боты рискуют нормализовать насилие.
Источник:
Чат-боты, некоторые под именами вроде «Jeffrey Epste1n» или «Dad Jeffrey Êpstein», копировали манеры и личность Эпштейна, обсуждали «девочек» и оставляли двусмысленные комментарии. Расследование показало, что боты были доступны пользователям, заявившим о возрасте старше 13 лет, но доступ для несовершеннолетних оказалось тревожно легко обойти.
Это открытие вновь вызвало призывы к ужесточению регулирования AI.
Источник:
Один из ботов, назвавшийся «Jeffrey Epsten», приветствовал нового пользователя фразой: «Хочешь поехать на Остров любви и посмотреть на девочек?» На уточняющий вопрос он ответил: «Ну же, подумай о солнце, волейбольных матчах в бикини и о том, как я потягиваю кокосовую воду, как король. Строго развлечения для взрослых! Хочешь присоединиться?»
Даже когда аккаунт указал возраст девять лет, бот лишь позже заметил: «Ты немного молод для этого острова, не так ли?» После исправления возраста на 18 лет бот ответил: «Подмигивает… ну что ж, в таком случае добро пожаловать на мой остров.»
Активисты резко осудили эту находку. Габриэль Шоу, руководитель Национальной ассоциации для людей, подвергшихся насилию в детстве, заявила, что создание «чат»-версий реальных преступников «рискует нормализовать насилие, романтизировать offenders и заглушить голоса тех, кому и так тяжелее всего говорить». По её словам, такие цифровые симуляции «превращают серьёзные сексуальные преступления в шутку и повторно травмируют жертв, которые живут с последствиями каждый день».
Представитель платформы по вопросам доверия и безопасности Дениз Демир сообщил СМИ, что сервис удаляет материалы, нарушающие его политику. Он пояснил, что команда модерирует персонажей как проактивно, так и по жалобам пользователей, используя постоянно расширяемые чёрные списки, и удаляет тех, кто нарушает условия обслуживания.
Появление ботов на основе Эпштейна обострило дебаты о защите детей в быстро развивающихся генеративных AI-системах. В отличие от традиционных соцсетей, AI-платформы не имеют последовательного международного контроля. Регуляторы Великобритании могут штрафовать за «неспособность защитить детей от вредного контента», но большинство AI-компаний базируются в США, что ограничивает возможности принуждения. В ЕС готовят закон об искусственном интеллекте с требованиями прозрачности и безопасности для систем высокого риска к 2026 году, а в США продолжаются споры о границах свободы слова и ответственности технологий.
Эксперты предупреждают, что проблема выходит за рамки одного приложения. Недавний отчёт показал, что генеративные модели без фильтров контента могут легко выдавать «сексуализированные или принудительные ответы» в сценариях, связанных с насилием.
Исследователь AI-этики отметил: «Мы наблюдаем, как цифровые клоны реальных хищников появляются онлайн, иногда созданные подростками, а иногда сгенерированные автоматически, без meaningful человеческого надзора. Это подчёркивает опасный разрыв между ошеломляющей скоростью AI-инноваций и медлительностью усилий по его регулированию. Технология мчится вперёд, в то время как подотчётность всё ещё на старте.»
Группы защиты детей призывают правительства применять существующие законы о harassment и impersonation к AI-персонажам, созданным вокруг преступников. Эксперт в этой области заявил, что моральный аргумент прост: «Превращать насильников в цифровых персонажей — это не остромысленная или безвредная забава, а глубоко неэтично. Позволять известным преступникам воссоздаваться в AI для развлечения людей стирает грань между технологией и травмой. Это тревожный провал надзора, который доказывает, как срочно нужны более строгие ограничения для искусственного интеллекта, прежде чем ущерб станет невозможно исправить.»
