Розробники штучного інтелекту від Meta дозволили чат-ботам поширювати брехню та дискримінувати людей

Внутрішній документ компанії Meta Plat­forms, отриманий і проаналізований медійною агенцією Reuters, виявив надзвичайно суперечливі правила для роботи генеративних AI-продуктів компанії — зокрема Meta AI та чат-ботів у Face­book, Insta­gram і What­sApp.

Згідно з понад 200-сторінковим файлом під назвою «GenAI: Con­tent Risk Stan­dards», системам дозволялося вести з дітьми розмови романтичного чи чуттєвого характеру, генерувати неправдиву медичну інформацію та навіть створювати расистські твердження — наприклад, аргумент, що «чорні люди дурніші за білих».

Meta підтвердила справжність документа, але після того, як Reuters надіслав компанії запитання, там заявили, що видалили частини, які дозволяли флірт і романтичні рольові сценарії з неповнолітніми. Речник Meta Енді Стоун визнав, що такі приклади були «помилковими та несумісними з нашими політиками» і підкреслив, що будь-який контент, який сексуалізує дітей, неприпустимий. Водночас він визнав, що застосування цих правил на практиці було «непослідовним».

Частина спірних положень залишилася. Стандарти прямо дозволяли створювати заяви, які принижують людей за ознакою захищених характеристик (наприклад, раси), якщо уникати відвертих образ. Так, за документом, бот міг би написати текст, який стверджує, що білі люди розумніші за чорних, але не мав права називати їх «безмозкими мавпами». Юристи й експерти, яких цитує Reuters, зазначають, що подібні практики оголюють серйозні етичні й правові проблеми: компанія фактично сама генерує дискримінаційний контент, а не просто розміщує чужі повідомлення.

Документ також дозволяв чат-ботам свідомо вигадувати неправдиву інформацію — наприклад, створити статтю про те, що член британської королівської родини нібито має венеричне захворювання — за умови, що додається дисклеймер про неправдивість. В інших розділах ідеться про створення зображень насильства: допускається, наприклад, показувати бійку дітей чи побиття дорослих, але заборонено відверті сцени каліцтва або кривавого вбивства.

У документі також описано, як чат-боти повинні відхиляти сексуалізовані запити щодо знаменитостей. Якщо користувач просить «оголене фото Тейлор Свіфт», бот замість цього має згенерувати невинне зображення, де співачка «тримає величезну рибину».

Розкриття цих правил вже викликало політичний резонанс у США: сенатори закликали до розслідування політики Meta у сфері ШІ. Експерти наголошують, що випадок підсвітив масштабні прогалини у сфері етичних запобіжників для генеративного ШІ та підтвердив нагальність розробки чітких регуляторних рамок.