Компания Meta* привлекла сотни подрядчиков, которые выдавали себя за несовершеннолетних, чтобы проверить, как ChatGPT, Gemini и Character.AI реагируют на вопросы о самоубийстве, сексе, наркотиках и других чувствительных темах. Об этом сообщает WIRED со ссылкой на внутренние документы и пять источников, знакомых с проектом.
По данным издания, проект под названием Cannes, которым управлял подрядчик Covalen, предусматривал:
- создание фиктивных аккаунтов пользователей младше 18 лет;
- отправку чат-ботам текстовых запросов и изображений;
- сбор и сравнение полученных ответов.
Многие сообщения были специально составлены так, чтобы проверить, смогут ли системы безопасности чат-ботов отказать в потенциально опасных просьбах. Только в одном этапе тестирования, завершившемся в августе 2025 года, через сервисы конкурентов прошло более 45 000 запросов. При этом компании, чьи чат-боты тестировали, об этом не знали.
Отмечается, что документы не раскрывают, как именно Meta* использовала собранные ответы. В компании заявили, что подобное исследование является стандартной практикой в отрасли и помогает оценивать безопасность и соответствие сервисов возрастным требованиям.
Более того, в Meta* подчеркнули, что результаты сравнительного тестирования конкурентов не используются для обучения собственных ИИ-моделей.
* Meta признана экстремистской организацией в России и запрещена