Мета делает то, что не нравится Марку Цукербергу: пытается наверстать упущенное.
Десять лет назад основатель и генеральный директор компании увидел перспективы искусственного интеллекта и вложил огромные суммы денег в его развитие. Он нанял одного из своих первых провидцев, Яна Лекуна, возглавить эту работу. Теперь, всего через несколько месяцев после выхода ChatGPT на потребительский рынок, Meta отстает по той же технологии.
Читать далее:
Сейчас Meta изо всех сил пытается переориентировать свои ресурсы на создание пригодных для использования продуктов и ресурсов ИИ, включая собственных чат-ботов, вместо того, чтобы тратить годы на академические открытия и свободно делиться ими, пытаясь извлечь выгоду из своего коммерческого потенциала.
Это трудная задача, учитывая, что многие из лучших сотрудников ИИ уволились из Meta, а также на фоне собственной серии увольнений в компании, что Цукерберг назвал «годом эффективности». Согласно анализу, проведенному Журнал « Уолл Стрит.
Сам Цукерберг и другие топ-менеджеры взяли на себя больший контроль над стратегией компании в области искусственного интеллекта. Они создали новую группу генеративного ИИ, которая подчиняется непосредственно директору по продукту Крису Коксу, одному из старейших и пользующихся наибольшим доверием руководителей Meta.
- Группа обучает генеративные модели ИИ, которые производят контент, такой как текст, изображения или аудио, предназначенный для использования в «каждом из наших продуктов», сказал Цукерберг;
- Он рекламировал флагманскую модель языка искусственного интеллекта Meta под названием LLaMA, которая — после утечки кода — стимулировала появление собственных инструментов, которые однажды могли конкурировать с продуктами, которые пытаются продавать Google и OpenAI;
- Если Meta сможет коммерциализировать свои усилия в области искусственного интеллекта, это может помочь повысить вовлеченность пользователей, создать лучшую метавселенную и сделать компанию более привлекательной для молодых пользователей, которых сейчас становится все труднее привлечь;
- Если Meta не сможет извлечь выгоду из этой технологии достаточно быстро, она рискует потерять свою актуальность, поскольку конкуренты, в том числе растущий урожай лоскутных стартапов в области ИИ, будут продвигаться вперед.
В своем заявлении Джоэль Пино, вице-президент Meta по исследованиям в области искусственного интеллекта, сказала, что компания не отстает в области искусственного интеллекта, и отстаивает свое внимание к исследованиям и структуре, заявляя, что она обеспечит успех Meta.
Исследовательский центр искусственного интеллекта Meta «является одним из ведущих мировых направлений для исследователей искусственного интеллекта и открытых наук, и результаты его исследований значительно увеличились только за последний год», — сказал Пино.
Результаты наших исследований заложили прочную основу для дальнейшего развития, поскольку мы привносим новый класс генеративного опыта на основе ИИ в наше семейство приложений. Мы гордимся тем вкладом, который исследователи мета-ИИ в прошлом и настоящем вносят в формирование будущего продвинутого ИИ следующего поколения.
Жоэль Пино, вице-президент по исследованиям ИИ в Meta
Meta сталкивается с другими стратегическими, политическими и финансовыми проблемами. Его давняя сосредоточенность на оригинальных исследованиях в подразделении искусственного интеллекта Meta препятствует работе над генеративным искусственным интеллектом, такими системами, как ChatGPT, которые создают человекоподобный текст и медиа.
Руководители ошиблись при разработке аппаратного обеспечения, необходимого для запуска этих программ ИИ, которые сейчас пытаются исправить. Годы тщательного изучения обработки компанией пользовательских данных и нарушений прав человека заставили некоторых руководителей колебаться и проявлять осторожность в отношении запуска новых продуктов искусственного интеллекта для потребителей.
Meta начала инвестировать в ИИ в 2013 году. Цукерберг и тогдашний технический директор Майк Шропфер лично стремились нанять одного из ведущих умов в области ИИ, чтобы возглавить новое подразделение исследований по развитию технологий. Они нашли своего лейтенанта в лице Лекуна, профессора Нью-Йоркского университета, чья новаторская работа в этой области была известна.
ЛеКун, глубоко укоренившийся в научных кругах и фундаментальных исследованиях, сыграл важную роль в создании культуры, отражающей его приоритеты: наем ученых, а не инженеров, и акцент на академических результатах, таких как исследовательские работы, а не на разработке продуктов для конечных пользователей компании.
Эта стратегия сделала фундаментальную исследовательскую лабораторию ИИ Meta очень привлекательной для лучших специалистов на протяжении многих лет, но поставила под сомнение способность компании коммерциализировать свои достижения.
Он также поощрял всеобъемлющий восходящий подход к направлению исследований и распределению ресурсов.
Исследователи продвигали свои собственные программы, проводя независимые проекты в разных направлениях, а не единую стратегию в масштабах всей компании.
Мета разделила аппаратное обеспечение на небольшие группы в каждом проекте: некоторые исследователи, получившие больше компьютерных чипов, чем им нужно, запирали их на ненужные задачи, чтобы не бросать их, как говорили некоторые люди.
Тем временем Meta не спешила оснащать свои центры обработки данных более мощными компьютерными чипами, необходимыми для разработки ИИ. Несмотря на то, что компания приобрела больше таких чипов, у компании не было хорошей системы для передачи их в руки инженеров и исследователей. Иногда тысячи вожделенных и дорогих железяк оставались неиспользованными.
Meta обновляет свои центры обработки данных, что, возможно, способствовало тупиковым ситуациям. В мае последний суперкомпьютер Meta для проектов искусственного интеллекта имел 16 000 таких чипов.
По мере того как в 2020 году большие языковые модели начали демонстрировать все более впечатляющие возможности, в исследовательском подразделении Meta по искусственному интеллекту росло напряжение между теми, кто призывал компанию серьезно инвестировать в новое направление отрасли, и теми, в том числе ЛеКуном, которые считали такие модели причудами, не имеющими научной ценности. .
Решительное неприятие ЛеКуном больших языковых моделей (он считает, что они не приближают ИИ к человеческому интеллекту), как внутри страны, так и публично, мешает исследователям с противоположными взглядами заручиться поддержкой и огромными ресурсами, необходимыми для этих типов исследований. проекты.
Некоторые исследователи Meta в любом случае пошли дальше с меньшими ресурсами, используя около 1000 микросхем для создания большой языковой модели в 2022 году, известной как OPT или Open Pretrained Transformer, и около 2000 микросхем для создания основной модели Meta под названием LLaMA в 2022 году. 2023.
Промышленный стандарт, напротив, составляет от пяти тысяч до десяти тысяч чипов. Первоначально Meta разрешила ограниченной группе сторонних исследователей получить доступ к LLaMA до того, как она просочилась в сеть, что вызвало взрыв инноваций, который руководители называют прекрасным примером цели Meta поделиться своей технологией искусственного интеллекта.
С тех пор Meta потеряла нескольких исследователей ИИ, которые работали над этими и другими ключевыми проектами генеративного ИИ в прошлом году, многие ссылались на выгорание или неуверенность в том, что Meta не отстает от конкурентов.
Шесть из 14 авторов, перечисленных в исследовательской статье LLaMA, ушли или объявили об уходе, согласно их профилям в LinkedIn и людям, знакомым с этим вопросом. Восемь из 19 соавторов статьи для OPT также ушли.
Выходы ускорились после запуска ChatGPT в ноябре прошлого года. Некоторых привлекло увлечение стартапами ИИ, которое привело к кадровым изменениям в компаниях Силиконовой долины из разных отраслей, включая Google.
В марте количество объявлений о вакансиях в LinkedIn, в которых упоминается GPT, увеличилось на 79% по сравнению с прошлым годом, сообщила профессиональная социальная сеть. Журнал « Уолл Стрит.
Представитель Meta сказал, что компания продолжает набирать и привлекать новые таланты в области искусственного интеллекта.
После дебюта ChatGPT Цукерберг и Кокс присоединились к техническому директору Эндрю Босворту, чтобы контролировать все усилия компании, связанные с ИИ. Три руководителя теперь посвящают несколько часов в неделю ИИ, посещая встречи и одобряя проекты ИИ.
Новая группа генеративного ИИ сосредоточена исключительно на создании полезных продуктов и инструментов, а не на научных исследованиях. Он получил более 2000 внутренних заявок и быстро собрал сотни людей из разных команд.
Аппаратные ресурсы перешли из отдела исследований ИИ и используются для обучения новых генеративных моделей ИИ.
В марте Цукерберг сказал, что «развитие искусственного интеллекта и встраивание его в каждый из наших продуктов» было крупнейшей инвестицией компании. Выступая на ежегодном собрании акционеров Meta в мае, Цукерберг сказал, что компания также надеется распространить технологию на метавселенную.
По словам представителя Meta, на встрече с сотрудниками в начале этого месяца Цукерберг объявил о ряде продуктов для генеративного ИИ, над которыми компания в настоящее время работает.
Инициативы включают агентов ИИ для Messenger и WhatsApp, стикеры ИИ, которые пользователи могут создавать из текстовых подсказок и делиться ими в своих чатах, а также функцию создания фотографий, которая позволит пользователям Instagram изменять свои собственные фотографии с помощью команд, текстовых сообщений, а затем делиться ими в Instagram Stories. .
Цукерберг также поделился некоторыми уникальными внутренними генеративными инструментами искусственного интеллекта, предназначенными для сотрудников, в том числе Metamate, помощником по повышению производительности, который извлекает информацию из внутренних источников для выполнения задач по запросу сотрудников.
По словам представителя Meta, недавно Metamate был развернут для большой группы сотрудников в рамках пробной версии. «За последний год мы стали свидетелями действительно невероятных достижений — качественных достижений — в области генеративного ИИ», — сказал Цукерберг.
Но Мета по-прежнему сталкивается с серьезными проблемами. Все более низкая терпимость компании к риску после семи лет интенсивного контроля со стороны правительства и средств массовой информации за ее практикой конфиденциальности пользователей привела к разногласиям по поводу того, как и когда внедрять продукты ИИ.
В прошлом Meta приходилось учитывать свою общественную репутацию при разработке и выпуске больших языковых моделей, которые могли давать неверные ответы или оскорбительные комментарии.
Несколько лет назад исследователи ИИ работали над чат-ботом под кодовым названием Tamagobot, основанным на ранней версии системы больших языковых моделей.
Команда была впечатлена его работой, но пришла к выводу, что его не стоит запускать, поскольку компания столкнулась с резкой критикой за то, что позволила дезинформации процветать на своей платформе во время президентских выборов 2016 года.
Забота об общественном контроле также проявилась, когда Meta запустила своего чат-бота BlenderBot 3 в августе 2022 года. Через неделю после запуска BlenderBot 3 подвергся критике за ложные заявления, оскорбительные комментарии и расистские высказывания. Система также назвала Цукерберга «жутким и манипулятивным».
Представитель Meta сказал, что проект застопорился более чем на год, пока исследование не было завершено, и компания придерживалась открытого и прозрачного подхода на протяжении всего своего жизненного цикла. Он добавил, что Meta выпустила и увидела множество других проектов, демонстрирующих готовность компании идти на риск.
Но сценарий повторился в ноябре 2022 года, когда компания запустила Galactica, отличную языковую модель, ориентированную на науку. Система была закрыта Meta через три дня после ее запуска после того, как на нее обрушилась волна критики со стороны ученых за неправильные и предвзятые ответы. Две недели спустя OpenAI выпустила ChatGPT.
По информации The Washington Post
Вы смотрели новые видео на YouTube цифрового взгляда? Подписывайтесь на канал!