Apple установила партнерство с NVIDIA, цель которого — ускорение работы своих систем искусственного интеллекта.

Инженеры из обеих компаний достигли значительного увеличения скорости обработки запросов к большим языковым моделям на графических чипах NVIDIA, повысив эффективность работы в 2,7 раза благодаря усовершенствованию алгоритма ReDrafter.

Теперь данный алгоритм совместим как с чипами NVIDIA, так и с Apple Silicon. Ускорение обработки данных приводит к сокращению времени отклика на запросы пользователей, что делает взаимодействие с чат-ботами более комфортным. Кроме того, Apple приняла решение открыть исходный код ReDrafter, предоставляя другим разработчикам возможность оптимизировать свои языковые модели с его помощью.

Источник: @romancev768