В понедельник на выставке Computex 2019 NVIDIA анонсировала запуск EGX — платформы для ускорения искусственного интеллекта на периферии вычислительных сетей. Платформа объединяет технологии ИИ от NVIDIA с технологиями безопасности, хранения и передачи данных компании Mellanox. Программный стек платформы NVIDIA Edge оптимизирован для ИИ-сервисов, работающих в реальном времени, таких как компьютерное зрение, распознавание речи и аналитика данных, а также поддерживает работу с Red Hat OpenShift для оркестровки контейнеров при помощи Kubernetes.
NVIDIA Edge Stack — программный стек, используемый в EGX, который включает драйверы NVIDIA, плагин CUDA Kubernetes, среду выполнения контейнера CUDA Docker, библиотеки CUDA-X, а также AI фреймворки NVIDIA TensorRT, TensorRT Inference Server и DeepStream
«В компьютерной индустрии произошли огромные изменения, вызванные ростом числа датчиков IoT-устройств: камеры для наблюдения за миром, микрофоны — чтобы слышать мир, и устройства, разработанные, чтобы машины могли обнаружить, что происходит в реальном мире вокруг них», — рассказывает Джастин Бойтано (Justin Boitano), старший директор по корпоративным и периферийным вычислениям в NVIDIA на брифинге для прессы. Это означает, что количество необработанных данных, подлежащих анализу, экспоненциально увеличивается. «Мы скоро достигнем той точки, когда на периферии будут большие вычислительные ресурсы, чем в центрах обработки данных», — утверждает Джастин.
NVIDIA EGX обеспечит ускоренные вычисления для задачи искусственного интеллекта, чтобы обеспечить транзакции с минимальными временными задержками между взаимодействиями. Это позволит в режиме реального времени реагировать на данные, поступающие с датчиков для базовых станций 5G, со складов, розничных магазинов, заводов и других автоматизированных объектов. «ИИ является одной из наиболее важных вычислительных задач нашего времени, но центральный процессоры не справляются с ней», — отмечает Бойтано.
«Предприятиям требуются всё более мощные вычислительные возможности для обработки океана поступающих данных от бесчисленных взаимодействий с клиентами и различным оборудованием для принятия быстрых решений, основанных на искусственном интеллекте, которые могут стимулировать их бизнес», — рассказывает Боб Питт (Bob Pette), вице-президент и генеральный директор корпоративных вычислений и платформы EGX в NVIDIA. «Масштабируемая платформа, такая как NVIDIA EGX, позволяет компаниям легко развёртывать системы для удовлетворения своих потребностей как локально, так и в облаке, либо совмещая эти подходы».
NVIDIA EGX масштабируется от чипов, которые могут управлять дронами, до больших серверов, обеспечивающих облачные вычисления
NVIDIA особо уделяет внимание возможностям EGX для масштабирования исходя из вычислительных требований для работы ИИ в каждом конкретном случае. Начальное решение представлено в виде компактного NVIDIA Jetson Nano, который за несколько ватт может обеспечить полтриллиона операций в секунду для обработки таких задач, как, например, распознавание изображений. Если же вам нужна большая производительность, то стойка серверов NVIDIA T4 обеспечит вам 10 000 TOPS для распознавания речи в реальном времени и других тяжёлых задач искусственного интеллекта.
Серверы EGX доступны для приобретения у таких известных провайдеров корпоративных вычислений, как ATOS, Cisco, Dell EMC, Fujitsu, Hewlett Packard Enterprise, Inspur и Lenovo, а также у крупных производителей серверов и решений для Интернета вещей Abaco, Acer, ADLINK, Advantech, ASRock Rack, ASUS, AverMedia, Cloudian, Connect Tech, Curtiss-Wright, GIGABYTE, Leetop, MiiVii, Musashi Seimitsu, QCT, Sugon, Supermicro, Tyan, WiBase и Wiwynn.
