HIVE, у Парагваї запустив AI云 першої практичної демонстрації...LLM навчання Колумбійського університету запущено

Американська команда дослідників Колумбійського університету підключилася до вже запущеного GPU-штучного інтелекту в хмарі в Парагваї, що є першим етапом масштабного тренування мовних моделей. Це ознаменовує перехід до практичного підтвердження стратегії розширення “AI-інфраструктури” компанії HIVE Digital Technology. Це означає, що спроба поєднати “AI-хмару” на основі відновлюваної енергії з високопродуктивними обчисленнями вже перейшла до етапу перевірки на реальних даних.

18 числа компанія HIVE Digital Technology оголосила, що її “BUZZ AI Cloud” у Асунсьйоні, Парагвай, офіційно запущено в експлуатацію. Ця інфраструктура — GPU-кластер, розміщений у найбільшому місцевому дата-центрі Tier 3, який спеціально розроблений для тренування та виведення AI-моделей, а також для високонавантажених досліджень. Компанія планує перевірити продуктивність GPU-обчислень, що з’єднують Нью-Йорк і Асунсьйон, щоб закласти основу для майбутнього масштабного розгортання AI-інфраструктури.

Головною особливістю цього проекту є участь дослідників Колумбійського університету. Вони проводять попереднє тренування великих мовних моделей (LLM) і базових моделей на BUZZ Cloud, а також розробляють алгоритми для підвищення продуктивності моделей і обчислювальної ефективності. Зокрема, за допомогою технологій Muon і MuonClip вдалося досягти приблизно 1,3-кратного підвищення ефективності порівняно з попередніми рівнями. Відповідні дослідження вже заплановані до публікації у науковому журналі TMLR у галузі машинного навчання. На початковому етапі проект працював з моделями від 200 мільйонів до 20 мільярдів параметрів, наразі масштаб розширено до понад 80 мільярдів параметрів, і триває розподілене тренування на кількох GPU.

Зібрані під час цього процесу дані щодо затримок, пропускної здатності та управління навантаженням будуть безпосередньо враховані у довгостроковій стратегії HPC компанії HIVE. Планується на основі цих емпіричних даних поетапно розширювати Tier 3 дата-центри в Парагваї до 2027 року, з особливим акцентом на регіон Ігуасу, де розглядається можливість додаткового будівництва інфраструктури.

Можливість Парагваю стати центром “AI-інфраструктури” зумовлена багатими гідроенергетичними ресурсами та національною оптоволоконною мережею. Наразі HIVE забезпечує 300 МВт відновлюваної енергії та планує додаткове розширення на 100 МВт. Це дозволить створити низькозатратне та високоефективне обчислювальне середовище для задоволення міжнародних потреб, зокрема з Північної Америки.

Голова правління Френк Холмс зазначив: “Парагвай, який починав з майнингу біткоїнів, тепер перебуває на перехресті переходу до AI та HPC”, — “Дані, отримані з реальних GPU-навантажень, стануть ключовим орієнтиром для майбутніх інвестицій у інфраструктуру.” Генеральний директор Ейден Кілік додав: “Участь дослідників Колумбійського університету є важливим сигналом конкурентоспроможності платформи”, — “Ми офіційно розширюємо бізнес ‘GPU AI Cloud’ через перевірку AI-обчислень між Нью-Йорком і Асунсьйоном.”

Ринок звертає увагу, що Парагвай завдяки стабільній політичній ситуації та дружнім до іноземних інвестицій політикам має потенціал стати “AI-центром” Південної Америки. Особливо цінуються його екологічна енергетика та швидкісні мережі, що відповідає глобальним стратегіям диверсифікації інфраструктури AI.

Коментар: Цей емпіричний досвід HIVE можна розглядати як початкову стадію виходу за межі простої роботи дата-центрів і підтвердження прибутковості нової бізнес-моделі — “AI-обчислень” на основі відновлюваної енергії. У майбутньому, залежно від потреб клієнтів і інвестиційних можливостей, структура ринку AI-інфраструктури в Південній Америці може зазнати змін.