Штучний інтелект навчився роздягати жінок без їх згоди

Додаток Lensa, який використовує алгоритми штучного інтелекту для автоматичного редагування фото, опинився в центрі скандалу — ШІ звинуватили у сексуалізації жінок та використанні фотографій без згоди їх власників. Зауважимо, що Lensa належить компанії Prisma Labs, зареєстрованій у Каліфорнії. Втім, її засновники — росіяни Андрій Усольцев і Олексій Моїсеєнков, тому конфіденційність додатка є під питанням, навіть без гучних скандалів.

За словами деяких користувачів, нейромережа створює потенційну можливість сексуальної експлуатації та переслідування, адже ШІ малює жінок оголеними, навіть без їх згоди. Як і в інших додатках для редагування фото, користувачі можуть завантажувати будь-чиї фотографії та редагувати їх як завгодно. Часто додаток створює жіночі зображення оголеними та в позах із сексуальним підтекстом.

Lensa використовує моделі для безкоштовної системи машинного навчання під назвою Stable Diffusion. Моделі навчали на мільярдах комбінацій зображень з інтернету. Додаток відправляє завантажені користувачем фотографії у своє хмарне сховище, запускає модель, створену спеціально для кожного користувача, і видає новий портрет.

Хоча представники Prisma Labs неодноразово наголошували, що компанія не передає особисті фотографії третім сторонам, користувачі турбуються про свою безпеку. Адже правила конфіденційності, з якими має погодитися кожен перед використанням додатка, «залишають компанії можливість ділитися інформацією з іншими». Як заявив, один із засновників Lensa Андрій Усольцев, компанія зберігає «мінімальну кількість» даних із фотографій користувачів, втім які саме дані збираються Усольцев не пояснив.

За словами спеціалістів з ШІ, колекція зображень Lensa, на якій навчається штучний інтелект, містить тисячі фотографій людей, які не давали згоду на використання їх зображень. Як з’ясували журналісти видання Forbes, одна художниця навіть виявила в базі даних Lensa фотографії зі своєї особистої медичної карти. Для перевірки, чи використовують системи машинного навчання штучного інтелекту її фотографії, художниця скористалась безкоштовним сайтом HaveIBeenTrained.com.

Зауважимо, окрім відредагованих штучним інтелектом фотографій, причиною нещодавнього обурення в мережі стала книга, написана за допомогою ШІ. Співробітник фінтех-компанії Brex Аммаар Реші розробив дитячу книгу «Alice and Sparkle» («Аліса та Іскорка»), використовуючи алгоритми штучного інтелекту. Коли видання надійшло у продаж, Реші зіткнувся зі шквалом критики у соцмережах та навіть з погрозами смерті.

Авторка дитячих книг Анупа Ропер заявила: «Я подумала, невже так просто створити щось, куди мені довелося вкласти своє серце і душу?». Ще одна авторка Джозі Дім написала, що Реші не заслуговує отримувати гроші за книгу, оскільки «не вклав багато праці». Вона також вказала на безліч дефектів у зображеннях та назвала історію «шаблонною».