У минулому всі відчайдушно йшли в хмару, але вартість обчислювальної потужності одиниці на етапі висновків змусила багато команд усвідомити, що довгостроковий великомасштабний висновок на основі штучного інтелекту занадто швидко спалює гроші в хмарі. Додатки, засновані на штучному інтелекті, краще підходять для занурення критично важливих завдань висновків у локальні центри обробки даних, зменшуючи затримку та економлячи пропускну здатність і витрати на оренду хмари Боротьба за пам'ять була типовою рисою на початку навчання глибокому навчанню (у кого більше пам'яті, той і перемагає), але сьогодні: Межа пропускної здатності, що зберігається на графічному процесорі, безпосередньо впливає на висновок QPS Швидкість взаємодії між графічним процесором і платою центрального процесора/прискорення є верхньою межею продуктивності конвеєра Енергоспоживання одностійкового AI-кластера може досягати десятків кіловат, а необґрунтоване проектування ПД прямо заморозить масштаби розгортання обчислювальних потужностей Якщо в 2015 році планування дата-центру застрягне в парадигмі дизайну традиційного бізнесу з веб-базами даних, воно буде перевернуто під робочими навантаженнями штучного інтелекту Ознайомтеся з нашими статистикою: 20 технічних експертів про нові тенденції в апаратному забезпеченні, за якими компанії повинні стежити через @forbes