Науковці винайшли революційний метод запуску ШІ-процесорів з мінімальною кількістю енергії

Дослідники з Каліфорнійського університету у Санта-Крузі розробили метод, який дозволяє запускати великі мовні моделі штучного інтелекту (LLM) з мільярдами параметрів при значно меншому споживанні енергії, ніж сучасні системи.

Новий метод дозволив запускати LLM з енергоспоживанням всього 13 Вт, що еквівалентно потужності світлодіодної лампи. Це досягнення особливо вражає на фоні поточних показників енергоспоживання ШІ-прискорювачів Nvidia H100 і H200, які споживають близько 700 Вт.

Дослідники застосували два інноваційні методи. Перший — перехід до трійкової системи обчислення, що використовує значення -1, 0 і 1. Це дозволило замінити множення простим сумуванням чисел. Другий метод полягає у впровадженні тимчасових обчислень, що надало мережі ефективну «пам'ять» і дозволило працювати швидше з меншим обсягом операцій. Робота проводилася на спеціалізованій системі з FPGA, однак вчені підкреслюють, що більшість їхніх методів підвищення ефективності можна застосувати за допомогою відкритого програмного забезпечення.

Рюдзі Чжу, один з аспірантів, який брав участь у наукових дослідженнях, пояснив, що суть досягнення полягає у заміні дорогих операцій на значно дешевші. Наразі достеменно незрозуміло, чи можна застосувати даний підхід до всіх ШІ-систем, однак метод, на думку вченого, потенційно може «радикально змінити ландшафт штучного інтелекту».