Некоторые функции искусственного интеллекта, которые мы видим в смартфонах, особенно в серии Galaxy S24 с Galaxy AI, работают в облаке. Однако, похоже, Apple хочет, чтобы функции искусственного интеллекта, которые она представит в iOS 18, работали непосредственно на устройстве, то есть на iPhone. Об этом свидетельствует недавно опубликованная модель искусственного интеллекта OpenELM, которая состоит из четырех небольших языковых моделей.
Искусственный интеллект, который будет работать локально на устройстве, имеет дополнительные преимущества по многим параметрам. Наиболее важными из них являются более высокая скорость и безопасность. Объявив, что OpenELM, которая состоит из четырех очень маленьких языковых моделей, расшифровывается как «Open-source Efficient Language Models», Apple сообщила, что модель очень эффективна при выполнении текстовых задач, таких как написание электронных писем.
По сути, OpenELM состоит из четырех небольших моделей с разным весом: 270 млн параметров; 450 млн параметров; 1,1 млрд параметров; и 3 млрд параметров. С увеличением количества параметров увеличивается объем обучающих данных модели, ее сложность и, как следствие, возможности. Все четыре модели довольно малы и гораздо дешевле в эксплуатации, чем такие модели, как Gemini и GPT 4. Такие небольшие модели оптимизированы для локального запуска на устройствах.
Исследователи Apple утверждают, что для повышения точности и эффективности обучения моделей OpenELM они использовали стратегию масштабирования на основе слоев. Это позволило получить более надежные результаты. Например, при бюджете параметров около 1 млрд параметров, OpenELM требует в два раза меньше токенов для предварительного обучения, а точность по сравнению с OLMo повысилась на 2,36%.
С другой стороны, OpenELM — это исследование, которое указывает на то, какой искусственный интеллект мы увидим в iPhone. Apple утверждает, что публикует модели OpenELM, чтобы поддержать и обогатить открытое исследовательское сообщество. Однако ожидается, что подобные модели появятся в iPhone вместе с iOS 18.
В последние месяцы генеральный директор Apple Тим Кук говорил, что компания тратит невероятное количество времени и усилий на искусственный интеллект и будет внедрять продуктивные функции ИИ в устройства. Тем не менее, несмотря на то, что компания до сих пор не выпустила ни одного искусственного интеллекта для коммерческого использования, она опубликовала большое количество исследований в области искусственного интеллекта.
Источник:
theverge