Підписуйтеся на наш телеграм канал!

Науковці винайшли революційний метод запуску ШІ-процесорів з мінімальною кількістю енергії

2:49 pm, 28 Червня, 2024

Дослідники з Каліфорнійського університету у Санта-Крузі розробили метод, який дозволяє запускати великі мовні моделі штучного інтелекту (LLM) з мільярдами параметрів при значно меншому споживанні енергії, ніж сучасні системи.

Новий метод дозволив запускати LLM з енергоспоживанням всього 13 Вт, що еквівалентно потужності світлодіодної лампи. Це досягнення особливо вражає на фоні поточних показників енергоспоживання ШІ-прискорювачів Nvidia H100 і H200, які споживають близько 700 Вт.

Дослідники застосували два інноваційні методи. Перший — перехід до трійкової системи обчислення, що використовує значення -1, 0 і 1. Це дозволило замінити множення простим сумуванням чисел. Другий метод полягає у впровадженні тимчасових обчислень, що надало мережі ефективну «пам'ять» і дозволило працювати швидше з меншим обсягом операцій. Робота проводилася на спеціалізованій системі з FPGA, однак вчені підкреслюють, що більшість їхніх методів підвищення ефективності можна застосувати за допомогою відкритого програмного забезпечення.

Рюдзі Чжу, один з аспірантів, який брав участь у наукових дослідженнях, пояснив, що суть досягнення полягає у заміні дорогих операцій на значно дешевші. Наразі достеменно незрозуміло, чи можна застосувати даний підхід до всіх ШІ-систем, однак метод, на думку вченого, потенційно може «радикально змінити ландшафт штучного інтелекту».

Підписуйтеся на наш телеграм канал!

BTC

$62,578.26

4.17%

ETH

$3,342.43

4.38%

BNB

$564.71

5.29%

XRP

$0.53

1.54%

SOL

$152.05

5.07%

Всі курси
Підписуйтеся на наш
телеграм канал!
Свіжі новини та огляди
ринків криптовалют останньої
доби прямо у вашому мессенджері. Чекаємо на вас!
ПЕРЕЙТИ
Показати більше