У Ллиона Джонса была отличная позиция в Google, где он проработал почти 12 лет, будучи одним из авторов исследования. Трансформерыфундаментальный для понимания современного генеративного ИИ.
Покинув поисковый гигант (что обычно для громких имен), он присоединился к своему бывшему коллеге Дэвиду Ха и создал в Токио (Япония) исследовательскую лабораторию генеративного ИИ под названием Sakana AI.
Читать далее:
- Как выбрать песню для Reels?
- Почему в Бразилии такие высокие цены на смартфоны и планшеты?
- Политические кампании, управляемые с помощью ИИ, выросли
Джонс сказал, что, хотя он не питал неприязни к Google, он понимал, что размер компании мешает ему продвигаться в той работе, которую он хотел.
В интервью с CNBC, он сказал, что ситуация «это просто побочный эффект крупных компаний. Я думаю, что бюрократия выросла до такой степени, что я чувствовал, что ничего не могу сделать».
В глазах урагана
Джонс изучал искусственный интеллект и имеет степень магистра передовых компьютерных наук Бирмингемского университета (Англия). В его статье 2017 года представлены инновации, которые могут способствовать созданию ChatGPT. Для тех, кто не знает, буква T в GPT означает Transformers — архитектуру, стоящую за большей частью сегодняшней генеративной деятельности ИИ.
Мы какие-то сумасшедшие. Мы изучаем вдохновленные природой методы, чтобы увидеть, сможем ли мы найти другой способ делать что-то вместо того, чтобы создавать все более и более крупные модели.
Лиан Джонс, бывший инженер-программист Google и соучредитель Sakana AI, в интервью CNBC
- На данный момент Сакана не объявила ни одного инвестора;
- Джонс стал инженером-программистом YouTube в 2012 году;
- В своем профиле на LinkedIn он говорит, что начал «гуглить машинный интеллект и понимание естественного языка» в 2015 году.
Орды инженеров для ИИ
Google входит в список избранных крупных технологических компаний, которые уже много лет нанимают нескольких исследователей, некоторые из которых уже увольняются из университетов прямо на работу, чтобы создавать и моделировать модели искусственного интеллекта для обогащения своих продуктов.
Со временем Джонс начал сомневаться, почему программное обеспечение дает сбой и кто в этом виноват. Он пришел к выводу, что «виновником» стало отвлечение внимания на исследования.
«Каждый день я тратил свое время, пытаясь получить доступ к ресурсам, пытаясь получить доступ к данным», — сказал Джонс. Google отказался комментировать этот вопрос.
После многих лет создания продуктов в своих лабораториях поисковый гигант спешит включить в свои продукты генеративный ИИ, начиная с больших языковых моделей (LLM), таких как поисковая система, YouTube и другие. Не говоря уже о собственном чат-боте с искусственным интеллектом Bard.
Для Джонса Google концентрирует «всю компанию вокруг этой технологии», а инновации становятся более сложными, «потому что это очень ограничительная структура».
Со своей стороны, Ха, который после ухода из Google в прошлом году и до основания своего стартапа все еще работал руководителем отдела исследований в Stability AI, сказал, что они с Джонсом общались с людьми, которые хотели работать в LLM, но еще не завершили свое обучение. планы.
«Я был бы удивлен, если бы языковые модели не были частью будущего», — сказал Ха, который также указал, что не хочет, чтобы Sakana стала еще одной компанией, занимающейся только LLM.
Что касается OpenAI, которой принадлежит ChatGPT, Ха сказал, что «она стала такой большой и немного бюрократичной», что мало чем отличается от групп внутри Google.
Джонс понимает, что OpenAI не настолько инновационный. Он заявил, что два успеха компании, ChatGPT и DALL-E, были созданы на основе исследований, которые он провел для Google, и были применены в больших масштабах с некоторыми уточнениями, однако отложили обмен разработками с сообществом. Компания отказалась от комментариев.
Ха сказал, что Сакана наняла академического исследователя на неполный рабочий день и что компания наймет больше людей. Но когда его спросили, придут ли еще сотрудники Google, он ответил: «Пока нет».
Вы смотрели новые видео на YouTube цифрового взгляда? Подписывайтесь на канал!
Пост «Эпидемия» от крупных технарей заставил экс-Google создать собственный стартап, впервые появившийся в Olhar Digital.