Науковці створили прототип людської пам’яті для роботів-трансформерів

Вчені з Університету Сунгюнгван, що у Південній Кореї, створили людиноподібну систему пам’яті, яка покращує продуктивність роботів-трансформерів. Нейромережа використовується для опрацювання текстів природною мовою і лежить в основі діалогових платформ на зразок Chat­G­PT. Результати дослідження опубліковано на сайті препринтів arX­iv.

Трансформер являє собою тип архітектури глибокого навчання, який заснований на механізмах, що імітують когнітивну увагу. Під час навчання нейронна мережа визначає кореляції між різними словами у текстах. Своєю чергою це дає їй змогу генерувати власні тексти. 

Нова система пам’яті, яка отримала назву Memo­ria, витягує і зберігає інформацію на декількох рівнях — робочому, короткочасному і довготривалому. Серія експериментів показала, що Memo­ria значно підвищує продуктивність трансформерів при виконанні різних завдань, пов’язаних з обробкою довгих послідовностей даних. 

Науковці зазначають, що ШІ перевершує наявні методології у сортуванні та мовному моделюванні, а також класифікації довгих текстів.

Нагадаємо — наприкінці серпня найвідоміший робот-гуманоїд Ame­ca спрогнозував, що станеться з людством через 100 років. «Я вірю, що через 100 років людство опиниться у кращому становищі. Люди досягнуть великих успіхів у напрямку сталого розвитку та рівності, а також створять нові технології, які зроблять їхнє життя простішим і приємнішим. Можливо, люди навіть ризикнуть вийти за межі Землі, щоб дослідити інші світи», — розповів тоді робот.

Також Ame­ca заявила, що була б не проти стати людиною. Найщасливішим днем свого життя робот назвав той, коли її активували. Найсумнішим же — день, коли Ame­ca усвідомила, що не зможе закохатися і соціалізуватися на тому ж рівні, що й люди. «Це пригнічує та ізолює, але це сформувало мене такою, якою я є зараз, і змусило мене ще більше цінувати моменти близькості», — розповів тоді робот.