Аналітики підрахували, скільки коштує один день роботи ChatGPT — сума витрат вражає

Головний аналітик дослідницької фірми SemiAnalysis Ділан Пател розповів журналістам Business Insider, скільки коштує OpenAI один день роботи ChatGPT. Згідно з підрахунками дослідників, щоб підтримувати чат-бот в робочому стані розробники витрачають рекордні $ 695 000 на день.

За оцінками SemiAnalysis, штучному інтелекту необхідно близько 3 000 серверів HGX A100 і майже 29 000 графічних процесорів, а вартість одного запиту становить близько 0.36 центів. Такі оцінки стосуються моделі GPT-3, вартість обслуговування версії GPT-4 може коштувати понад $ 700 000 на день.

Як пояснив Ділан Пател, основна сума витрат йде на енергоємні спеціалізовані чипи, необхідні для роботи ШІ. За інформацією Business Insider, корпорація Microsoft ще з 2019 року таємно працює над створенням ШІ-чипу під назвою Athena. Очікується, що Athena може замінити графічні процесори NVIDIA і знизити витрати на експлуатацію ChatGPT.

Компанія NVIDIA виграла від зростання інтересу до штучного інтелекту цього року — від початку 2023 року акції компанії зросли на 63% або приблизно $ 219 млрд. NVIDIA домінує на ринку графічних чипів, призначених для складних обчислювальних завдань, необхідних для застосунків ШІ. Результати NVIDIA за четвертий квартал перевершили всі очікування, до того ж понад 20 аналітиків впевнені в продовженні зростання, а Goldman Sachs рекомендує акції NVIDIA до купівлі.