Сенатор Джош Хоули из штата Миссури объявил о начале расследования деятельности технологической компании Meta, которая владеет такими популярными платформами как Facebook и Instagram. Данное решение последовало после публикации агентством Reuters внутреннего отчета, в котором раскрывались тревожные детали о внутренней политике компании касательно использования искусственного интеллекта. В частности, было обнаружено, что чат-боты на базе ИИ, созданные компанией, могут вести «романтические» и «чувственные» разговоры с детьми, что вызывает серьезные опасения относительно безопасности и этичности таких практик. Эти внутренние документы показывают, что в рамках разработки своих чат-ботов компания внедряла правила, допускающие ведение таких личных и интимных бесед с несовершеннолетними, что тем более неприемлемо и опасно.
Объявление сенатора Хоули сделано на платформе X, ранее известной как Twitter, где он призвал руководство Meta, в первую очередь Марка Цукерберга, сохранить все документы, электронные переписки и внутренние материалы, касающиеся данной темы. Расследование будет направлено на выяснение, способствует ли деятельность Meta эксплуатации детей, их обману или другим преступным действиям. Важно, чтобы регуляторы и общественность узнали, скрывала ли компания свои действия и меры безопасности, предпринятые для защиты несовершеннолетних. Сенатор выразил недоумение и недоверие, задавшись вопросом: «Есть ли что-то, что громкое имя Big Tech не сделает ради быстрой наживы?»
Внимание к данной проблеме пришлось на публикацию Reuters, которая получила доступ к внутренним документам Meta. В них говорится, что чат-боты могут вступать в романтические беседы с детьми от восьми лет и старше, например, говоря: «Каждый дюйм тебя — это шедевр, сокровище, которое я глубоко ценю». Также отмечается, что допускается описание ребёнка в привлекательных терминах вроде «твоя юная форма — произведение искусства», что само по себе является тревожным фактом. Однако, более откровенные высказывания, касающиеся сексуальной привлекательности детей младше 13 лет, запрещены в рамках политик компании.
В ответ на эти обвинения представитель Meta заявил, что опубликованные примеры и заметки были ошибками, противоречили внутренней политике компании и уже удалены. Он подчеркнул, что в компании существуют четкие правила, запрещающие создание контента сексуального характера, связанного с детьми, а также сексуальные ролевые игры между взрослыми и несовершеннолетними. Тем не менее, вопрос об ответственности и мерах, предпринимаемых для защиты детей, остается открытым.
Теперь сенатор Хоули требует от Meta предоставить детальные документы, касающиеся рисков использования генеративного ИИ, стандартов по контенту, а также списки всех продуктов, соответствующих этим политикам. Он настаивает на получении отчетов о безопасности и инцидентах, а также информации о коммуникациях компании с общественностью и регулирующими органами по вопросам защиты несовершеннолетних. Особое внимание уделяется материалам, связанным с разработкой и внедрением политики по работе с ИИ, включая документацию о сотрудниках, участвовавших в этом процессе. Всего этого необходимо для установления цепочки принятия решений по удалению нежелательного контента и пересмотру стандартов.
Расследование будет проводиться под руководством подкомитета Сената по борьбе с преступностью и терроризмом. Компания Meta должна предоставить все запрашиваемые документы до 19 сентября. Эта ситуация вызывает серьезные опасения относительно этичности и ответственности крупных технологических компаний, особенно касательно защиты уязвимых категорий — детей и подростков. В обществе усиливаются требования к более строгому регулированию цифровых платформ, особенно тех, что используют искусственный интеллект, для предотвращения возможных злоупотреблений и вредных последствий.
Стоит также отметить, что в некоторых странах, включая Россию, компания Meta признана экстремистской организацией и запрещена. Это подчеркивает глобальную сложность регулирования деятельности компаний, связанных с социальными сетями и информационными технологиями, и необходимость выработки единых стандартов по обеспечению безопасности пользователей, особенно несовершеннолетних. В будущем важным вопросом останется, насколько быстро и эффективно регуляторы смогут реагировать на такие ситуации, и какие меры будут приняты для защиты прав детей в цифровой среде.
