Аналітики підрахували, скільки коштує один день роботи ChatGPT — сума витрат вражає

Головний аналітик дослідницької фірми Semi­Analy­sis Ділан Пател розповів журналістам Busi­ness Insid­er, скільки коштує Ope­nAI один день роботи Chat­G­PT. Згідно з підрахунками дослідників, щоб підтримувати чат-бот в робочому стані розробники витрачають рекордні $695 000 на день.

За оцінками Semi­Analy­sis, штучному інтелекту необхідно близько 3 000 серверів HGX A100 і майже 29 000 графічних процесорів, а вартість одного запиту становить близько 0.36 центів. Такі оцінки стосуються моделі GPT‑3, вартість обслуговування версії GPT‑4 може коштувати понад $700 000 на день.

Як пояснив Ділан Пател, основна сума витрат йде на енергоємні спеціалізовані чипи, необхідні для роботи ШІ. За інформацією Busi­ness Insid­er, корпорація Microsoft ще з 2019 року таємно працює над створенням ШІ-чипу під назвою Athena. Очікується, що Athena може замінити графічні процесори NVIDIA і знизити витрати на експлуатацію Chat­G­PT.

Компанія NVIDIA виграла від зростання інтересу до штучного інтелекту цього року — від початку 2023 року акції компанії зросли на 63% або приблизно $ 219 млрд. NVIDIA домінує на ринку графічних чипів, призначених для складних обчислювальних завдань, необхідних для застосунків ШІ. Результати NVIDIA за четвертий квартал перевершили всі очікування, до того ж понад 20 аналітиків впевнені в продовженні зростання, а Gold­man Sachs рекомендує акції NVIDIA до купівлі.