AI: Kupujesz, nie wiesz, ile to kosztuje.
Artykuł "AI: Kupujesz, nie wiesz, ile to kosztuje" ostrzega, że wydatki na infrastrukturę AI rosną szybciej niż umiejętność ich kontrolowania, a firmy często nie rozumieją pełnych kosztów, skupiając się na niewłaściwych wskaźnikach.
AI: Kupujesz, nie wiesz, ile to kosztuje.
Wraz z dynamicznym rozwojem sztucznej inteligencji, przedsiębiorstwa coraz śmielej inwestują w infrastrukturę AI. Niestety, tempo tych inwestycji wyprzedza możliwość zrozumienia i kontrolowania związanych z tym kosztów. Coraz częściej obserwujemy "lukę obliczeniową" - rozbieżność między ambicjami a realną kontrolą nad wydatkami. Niniejszy artykuł analizuje badania VentureBeat Pulse Research, które rzucają światło na to, jak firmy wdrażają AI, na co wydają pieniądze i jak dobrze radzą sobie z zarządzaniem kosztami obliczeniowymi.
Przegląd badania VentureBeat Pulse Research
Badanie zostało przeprowadzone wśród 107 przedsiębiorstw i ujawniło szereg istotnych informacji na temat:
- Etapów wdrożenia AI w organizacjach
- Używanej infrastruktury AI
- Poziomu satysfakcji z obecnych rozwiązań
- Kryteriów wyboru dostawców i zamiarów migracji
- Możliwości mierzenia i kontrolowania kosztów obliczeniowych
Kluczowe wnioski z badania
Najważniejszym z nich jest wspomniana wcześniej "luka obliczeniowa". Przedsiębiorstwa chętnie inwestują, ale często nie mają pełnej kontroli nad kosztami.
Ambicje wyprzedzają produkcję
Tylko 21% firm prowadzi AI na skalę produkcyjną. Niemniej, plany wydatków są znacznie bardziej ambitne, w szczególności w obszarze specjalizowanych chmur AI, których obecnie używa bardzo niewiele organizacji.
| Status Wdrożenia AI | Procent Przedsiębiorstw |
|---|---|
| Eksperymentowanie lub ograniczone wdrożenie produkcyjne | 76% |
| AI na pełną skalę produkcyjną | 21% |
Ponadto, wykorzystanie GPU jest stosunkowo niskie – aż 83% firm raportuje wykorzystanie poniżej 50%, a mniej niż połowa (44%) monitoruje koszty obliczeniowe związane z AI.
Niezdecydowanie co do dostawców i kryteria wyboru
Przedsiębiorstwa nie są pewne, z którymi dostawcami chcą współpracować. 64% planuje zmianę lub dodanie nowego dostawcy infrastruktury w ciągu 12 miesięcy, a 38% już w ciągu najbliższego kwartału. Taka rotacja dostawców, jak na tak fundamentalnej warstwie infrastruktury, jest bardzo wysoka.
Decyzje zakupowe kierowane są przez:
- Integrację z istniejącym systemem (41%)
- Całkowity koszt posiadania (35%)
- Cena za token (8%)
Niezwykle istotne jest, że cena za token ma relatywnie niewielki wpływ na decyzję zakupową. Firmy skupiają się na integracji i TCO, co sugeruje, że rozważają długoterminowe korzyści, a nie tylko krótkoterminowe koszty.
Ograniczenia technologiczne i przyszłe trendy
Przyszłe decyzje będą kształtowane przez przesunięcie z obliczeń GPU do przepustowości pamięci, jednakże problem ten jest mało rozpoznawalny – około 1 na 5 przedsiębiorstw jest go nieświadomych lub jeszcze go nie adresuje.
Metodologia badania
Badanie zostało przeprowadzone jako część cyklu VentureBeat Pulse Research. Obejmuje ono analizę infrastruktury AI, obliczeń i ekonomii wnioskowania. W badaniu wzięło udział 107 przedsiębiorstw zatrudniających ponad 100 pracowników. Należy pamiętać, że jest to badanie przekrojowe i nie uwzględnia trendów miesięcznych. Próba jest samowybieralna i skłonna do wczesnych adopterów, dlatego należy interpretować jej wyniki jako sygnał kierunkowy, a nie dokładne pomiary.
Wskazane jest potraktowanie wyników badania jako sygnału kierunkowego, a nie precyzyjnych danych.
źródło inteligentnego przedruku: VentureBeat AI