Qualcomm объявила, что в партнерстве с Meta Llama 2 появится на мобильных устройствах, включая сотовые телефоны, планшеты и ноутбуки. Согласно публикации в официальном блоге компании, новое партнерство с Meta позволит устройствам, оснащенным чипами Snapdragon, использовать Llama 2, языковую модель для приложений и сервисов генеративного ИИ (искусственного интеллекта).
Лама 2 без интернета скоро появится
Партнерство между Qualcomm и Meta позволит использовать Llama 2 для мобильных телефонов, планшетов и ноутбуков с процессорами Snapdragon. Источник: Qualcomm
По словам Qualcomm, цель переноса Llama 2 da Meta на сотовые телефоны, планшеты и ноутбуки с чипсетом Snapdragon — сделать эти устройства способными запускать приложения и сервисы на основе генеративного ИИ, такие как, например, ChatGPT и Bing Chat. Компания говорит:
Возможность запуска генеративных моделей искусственного интеллекта, таких как Llama 2, на таких устройствах, как смартфоны, ПК, гарнитуры виртуальной/дополненной реальности и транспортные средства, позволяет разработчикам экономить на облачных расходах и предоставлять пользователям конфиденциальные, более надежные и персонализированные возможности.
По словам Qualcomm, запуск языковых моделей, таких как Llama 2, на мобильном устройстве дает несколько преимуществ. Во-первых, это экономия по сравнению с использованием облачной языковой модели, которую необходимо подключить к онлайн-сервису. То есть можно будет пользоваться преимуществами Llama без необходимости подключения к Интернету, а также будет обеспечиваться более высокий уровень безопасности и конфиденциальности по сравнению с сервисом, подключенным к серверу в облаке.
Возможности Meta AI Llama 2, которыми могут обладать Android-смартфоны с процессором Snapdragon. Источник: Мета
Запуск и доступность
В 2024 году Qualcomm планирует поддерживать услуги ИИ на базе Llama 2 на мобильных телефонах, планшетах и ноутбуках с чипсетами Snapdragon. Пока неизвестно, какие модели чипов будут поддерживать эту функцию.
О или Лама да Мета
LLaMA (Large Language Model Meta AI), запущенная Meta IA в феврале 2023 года, представляет собой крупноязыковую модель нового поколения (LLM), призванную помочь исследователям продвигать свою работу в этой области ИИ.