Hitech logo

Кейсы

Apple представила малые языковые модели OpenELM

TODO:
Дарина Житова25 апреля, 17:50

Компания Apple выпустила серию языковых моделей OpenELM, разработанных для работы непосредственно на устройствах пользователя, таких как смартфоны и ноутбуки. Эти малые модели отличаются от большинства существующих решений, которые требуют подключения к облачным серверам, и предназначены для генерации текста. С ними расход электроэнергии на устройстве почти не растет, а интернет-соединение им не нужно.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

OpenELM состоит из 8 моделей, каждая из которых настроена и предварительно обучена для оптимальной работы в различных условиях. Эти модели варьируются по размеру — от 270 миллионов до 3 миллиардов параметров, что позволяет им эффективно справляться с задачами генерации текста. Модели с меньшим количеством параметров оптимизированы для использования на мобильных устройствах и ноутбуках, и обеспечивают высокую производительность при низком энергопотреблении.

Как указала компания, одной из ключевых особенностей малых моделей является их способность работать локально, что снижает зависимость от интернет-соединения и обеспечивает приватность пользователей. Это делает OpenELM идеальным выбором для приложений, требующих высокой степени конфиденциальности обрабатываемых данных.

Apple предоставляет модели OpenELM на условиях лицензии на образец кода, что позволяет использовать их как в некоммерческих, так и в коммерческих целях. Лицензия также включает возможность модификации кода, но с условием сохранения всех уведомлений и текстов предупреждений при его распространении.

Однако стоит отметить, что Apple не предоставляет гарантий относительно безопасности и точности работы этих моделей. Существует вероятность, что они могут выдавать неточные или предвзятые ответы, что особенно важно учитывать при их использовании в критически важных приложениях.