Європарламент ухвалив AI Act — перші у світі правила для штучного інтелекту

Європарламент ухвалив закон під назвою AI Act, який встановлює правила і вимоги для розробників моделей штучного інтелекту. Документ покликаний забезпечити безпеку, прозорість, екологічність та етичність використання ШІ в Європі.

Правила встановлюють ризик-орієнтований підхід до ШІ та формулюють зобов’язання для розробників і користувачів ШІ залежно від рівня ризику, який він може створювати. Системи ШІ з неприйнятним рівнем ризику для безпеки людей будуть суворо заборонені. До цієї групи увійдуть, наприклад, системи, що використовують підсвідомі або цілеспрямовані маніпулятивні методи, експлуатують вразливості людей або використовуються для соціальної оцінки (класифікація людей на основі їхньої поведінки, соціально-економічного статусу, особистих характеристик).

Парламент також уточнив список практик, заборонених для штучного інтелекту. До нього увійшли:

— віддалена біометрична ідентифікація, зокрема в громадських місцях у реальному часі, з виключенням для правоохоронних органів і тільки після судового дозволу;

— біометрична категоризація з використанням чутливих характеристик (наприклад, стать, раса, етнічна приналежність, громадянство, релігія, політична позиція);

— прогностичні поліцейські системи (засновані на профілюванні, місцезнаходженні або минулій кримінальній поведінці);

— розпізнавання емоцій у правоохоронних органах, прикордонних службах, на робочих місцях і в навчальних закладах;

— невибіркове вилучення біометричних даних із соціальних мереж або відеозаписів із камер відеоспостереження для створення баз даних розпізнавання осіб (порушення прав людини і права на недоторканність приватного життя).

Закон уточнює список АІ-систем «високого ризику». Відповідно до документа, це системи, які можуть потенційно завдати шкоди здоров’ю людей або навколишньому середовищу. Сюди також входять системи штучного інтелекту, які використовуються для впливу на виборців у політичних кампаніях і алгоритми рекомендацій соцмереж.

Постачальники і розробники «високоризикового» ШІ зобов’язані, відповідно до закону, провести оцінку ризику і відповідності, зареєструвати свої системи в європейській базі даних ШІ, забезпечити високу якість даних, які використовуються для навчання ШІ, забезпечити прозорість системи та інформованість користувачів, а також обов’язковий нагляд із боку людини і можливість втручання в роботу системи.

Що стосується «низькоризикового» ШІ, такого як чат-боти, то його постачальники зобов’язані інформувати користувачів про те, що вони взаємодіють з ШІ, а не з людиною. Для генеративних моделей додається ще одна вимога — повідомляти користувачам, що контент створено нейромережею.