Развитие технологий искусственного интеллекта (ИИ) в последние годы стремительно набирает обороты, и достижения в этой области, особенно в области компьютерного зрения, открывают ранее немыслимые возможности. В основе этого развития лежит, в основном, усовершенствование нейронных сетей и их поддержка более мощными вычислительными ресурсами. В этой статье будет представлена информация о первых шагах NVIDIA в области ИИ и о создании AlexNet, одного из ключевых поворотных моментов в этой сфере.
Redaksiya сообщает, что генеральный директор NVIDIA Дженсен Хуанг рассказал, как началась революция в области компьютерного зрения. В 2012 году компания была сосредоточена на разработке 3D-графики, игр и ядер CUDA. В то время исследования, связанные с технологиями ИИ, находились еще на начальной стадии. Однако успех AlexNet заставил NVIDIA полностью изменить свою стратегию.
По словам Хуанга, первые эксперименты по машинному обучению проводились на обычных потребительских видеокартах, а точнее, на паре GTX 580 с 3 ГБ памяти, объединенных в режиме SLI. Эти видеокарты предназначались в основном для игр и не имели каких-либо специальных возможностей для ускорения нейронных сетей. Однако их параллельная архитектура оказалась идеальной для таких задач. Разработка AlexNet была проведена Алексом Крижевским, Ильей Суцкевером и Джеффри Хинтоном из Университета Торонто. Исследователи искали способы улучшить распознавание изображений в то время, когда нейронные сети в обычном понимании еще не существовали.
AlexNet состоял из 8 слоев и примерно 60 миллионов параметров и был способен к самостоятельному обучению посредством комбинации сверточных и глубоких нейронных сетей. Эта модель превзошла ведущие решения в области компьютерного зрения более чем на 70%. Хуанг отметил, что AlexNet был оптимизирован для двух GTX 580, и обмен данными между GPU происходил только при необходимости, что значительно сократило время обучения. Хуанг подчеркнул в подкасте Джо Рогана, что AlexNet работал именно на этом оборудовании и стал поворотным моментом для всей отрасли. Это событие привело к инвестициям NVIDIA в технологии машинного обучения и появлению устройств DGX, архитектуры Volta с первыми тензорными ядрами и таких технологий, как DLSS.