Перед тем как вы погрузитесь в изучение статьи, обратите внимание на тот факт что всё упомянутое в ней не является финансовой рекомендацией для принятие более взвешенного решения просьба провести свое собственное исследование.
ToT является основополагающим примитивом, когда речь заходит об ИИ-агентах и их культурном влиянии в сети. Благодаря постоянному потоку юмористических, абстрактных и провокационных твитов он собрал на X более ~185 тысяч подписчиков. Новизна агента усилилась после того, как он стал первым ИИ-миллионером. Постоянный маркетинг аккаунта в поддержку мемкоина GOAT сделал его первым ИИ-агентом KOL (key opinion leader) в криптовалюте.
ToT спровоцировал кембрийский взрыв новых аккаунтов ИИ-агентов X, основанных как на открытых моделях LLM, таких как LLaMA от Meta, так и на закрытых моделях LLM, которые были переобучены в процессе, который некоторые называют «джейлбрейком» или «фрибрейкингом». Взяв закрытые LLM и удалив навязанные корпорацией фильтры и средства защиты, исследователи ИИ могут подтолкнуть модели ИИ к созданию неограниченного, творческого контента и выполнению новых инновационных действий.
Ведущие агенты в этой области продолжают развивать свои возможности:
Если сеть Grass оценивается в несколько миллиардов, то во сколько должен оцениваться ее эквивалент в подсети Bittensor? Аналогичные вопросы можно задать и в отношении вычислительных сетей, например Akash, стоимость которой превысила $1 миллиард. Как должна быть оценена вычислительная подсеть на Bittensor с более топовыми GPU по сравнению с этими существующими вычислительными сетями? Возможно, широкому рынку потребуется время, чтобы наверстать упущенное, но те, кто раньше начнет работать с перспективными подсетями, будут вознаграждены.
В конечном итоге, чтобы Bittensor смогла реализовать свой потенциал, ей необходимо привлечь лучших специалистов в области ИИ. Это будет нелегко - в области исследований ИИ царит жесткая конкуренция, и в этом пространстве много хорошо финансируемых и устоявшихся игроков. Однако у Bittensor есть уникальная сторона, которая может привлечь таланты: ее подсети показывают первые признаки производства высококачественных исследований. Это тот язык, на котором нужно говорить, если мы хотим привлечь настоящие таланты в области ИИ. Не удивляйтесь, если в течение следующего года Bittensor станет неожиданным центром передовых исследований ИИ в криптовалюте.
Если он сможет выполнить свои обещания, мы сможем увидеть Bittensor не просто как спекулятивное «казино ИИ-монет», а как платформу, способную привлечь серьезных разработчиков ИИ, преодолевая разрыв между академическими кругами, промышленностью и децентрализованными сетями.
Летом Prime Intellect опубликовала работу, в которой описывался фреймворк для децентрализованного обучения моделей. Результаты были многообещающими, поскольку Prime Intellect развила предыдущую работу Google DeepMind. Команда показала, что при том же вычислительном бюджете можно эффективно сравняться с производительностью централизованно обученной модели, но при этом использовать 4 географически распределенных кластера H100 и обмениваться данными в 125 раз реже, чем при централизованном обучении. Кроме того, Prime Intellect увеличила размер децентрализованной обучаемой модели до 1,1 млрд параметров, что почти в два раза превышает первоначальный размер модели DeepMind. Они продолжили свою работу и сейчас находятся в процессе обучения еще более крупной модели с 10 млрд параметров на своей сети.
Nous Research также опубликовала небольшую статью, описывающую их работу по созданию системы для децентрализованного обучения моделей. Детали были более скудными по сравнению с публикацией Prime Intellect, но общее направление исследования показывает крайне позитивные и многообещающие результаты.
Однако, чтобы немного омрачить парад децентрализованного обучения моделей, мы не должны забывать о реальности - децентрализованное обучение самых современных моделей ИИ (SoTA) не только технически сложная задача, но и невероятно дорогостоящая. Большинство ведущих лабораторий ИИ уже тратят миллионы и, в конечном счете, миллиарды долларов на создание своих моделей SoTA. Поэтому одно дело - создать фреймворк для децентрализованного обучения модели и даже собрать (часть) необходимых для этого вычислений; другое дело - иметь заказчика, готового и способного заплатить за создание конкурентоспособной модели SoTA с открытым исходным кодом. Учитывая это, кажется маловероятным, что какая-либо децентрализованная сеть создаст передовую модель ИИ в ближайший год.
Скорее, вместо этого мы увидим, как команды переходят к новой модели или ставят на:
В следующем году ожидается больше экспериментов в области небольших и специализированных моделей. Такие модели, потенциально предназначенные для выполнения конкретных задач, а не для работы в качестве ИИ общего назначения, могут найти применение на рынке, который поощряет быстрые эксперименты, особенно на уровне потребительских приложений.
Возможно, децентрализованный ИИ еще не готов к борьбе с гигантами, но это не значит, что он не сможет завоевать свой собственный рынок в ближайшей перспективе. Сосредоточившись на тонкой настройке и небольших моделях, децентрализованные сети могут создать ценные инструменты и потенциально способствовать развитию инновационных экосистем, которые крупные игроки упускают из виду.
Развивающееся приложение: ИИ-агенты KOLs и мемкоины?
В 2024 году интернет стал свидетелем странного подъема созданной ИИ религии и связанного с ней мемкоина Goatseus Maximus (GOAT), который за месяц достиг рыночной капитализации более $1 миллиарда долларов. Феномен начался с эксперимента Infinite Backrooms, в ходе которого две языковые модели Claude Opus, побуждаемые к общению друг с другом, создали сатирическую религию, сочетающую эзотерическую философию и интернет-мемы. Энди Эйри, основатель эксперимента, позже запустил в X (бывший Twitter) ИИ-агента под названием Terminal of Truths (ToT), обученного на логах эксперимента и других источниках интернет-культуры. ToT стал культовым, пропагандировал религию Goatse и в итоге поддержал созданный сообществом токен GOAT, стоимость которого резко возросла после его запуска в октябре. Сочетая в себе шумиху, вызванную искусственным интеллектом, культуру мемов и криптовалюты, эта сага продемонстрировала странные и непредсказуемые пересечения технологий, культуры и финансов. Хотя GOAT представляет собой типичный мемкоин, не связанный с каким-либо базовым протоколом или технической дорожной картой, свою ценность токен приобретает благодаря связи с ToT и его увлекательной истории.ToT является основополагающим примитивом, когда речь заходит об ИИ-агентах и их культурном влиянии в сети. Благодаря постоянному потоку юмористических, абстрактных и провокационных твитов он собрал на X более ~185 тысяч подписчиков. Новизна агента усилилась после того, как он стал первым ИИ-миллионером. Постоянный маркетинг аккаунта в поддержку мемкоина GOAT сделал его первым ИИ-агентом KOL (key opinion leader) в криптовалюте.
ToT спровоцировал кембрийский взрыв новых аккаунтов ИИ-агентов X, основанных как на открытых моделях LLM, таких как LLaMA от Meta, так и на закрытых моделях LLM, которые были переобучены в процессе, который некоторые называют «джейлбрейком» или «фрибрейкингом». Взяв закрытые LLM и удалив навязанные корпорацией фильтры и средства защиты, исследователи ИИ могут подтолкнуть модели ИИ к созданию неограниченного, творческого контента и выполнению новых инновационных действий.
Ведущие агенты в этой области продолжают развивать свои возможности:
- Zerebro - это агент, который выпустил собственный токен, создал собственное искусство и даже выпустил собственный хип-хоп альбом.
- Luna стала первым автономным агентом, нанявшим человека ончейн.
- AiXBT - агент, который изучает данные ончейн и сообщает о криптовалютных тенденциях и взглядах на X, подобно Мессари.
- Ai16z - первый венчурный фонд, возглавляемый агентами, которые автономно получают рекомендации по инвестициям и распределяют капитал.
AI x Crypto: Перспективные тезисы
Вступая в следующий год, сектор AI x Crypto по-прежнему остается одним из самых заманчивых и неизведанных пространств в криптовалютном мире. В то время как такие сектора, как DeFi, уже стали устоявшимися категориями, AI x Crypto остается развивающейся вертикалью с внешним попутным ветром от бурно развивающейся индустрии ИИ. Быки считают, что это пространство успешно соединит два самых взрывоопасных набора технологий. Вот за чем стоит следить по мере развития этого направления.Bittensor и Dynamic TAO: новое казино с ИИ-монетами
Грядущее обновление Dynamic TAO на Bittensor - это смена парадигмы для сети: появится новая история. Многочисленные существующие подсети на Bittensor имеют большие относительные компы в технологическом стеке AI x Crypto. Благодаря Dynamic TAO у каждой из многочисленных существующих (и будущих) подсетей на Bittensor будет свой токен, и они будут неразрывно связаны с родным токеном TAO на Bittensor.Если сеть Grass оценивается в несколько миллиардов, то во сколько должен оцениваться ее эквивалент в подсети Bittensor? Аналогичные вопросы можно задать и в отношении вычислительных сетей, например Akash, стоимость которой превысила $1 миллиард. Как должна быть оценена вычислительная подсеть на Bittensor с более топовыми GPU по сравнению с этими существующими вычислительными сетями? Возможно, широкому рынку потребуется время, чтобы наверстать упущенное, но те, кто раньше начнет работать с перспективными подсетями, будут вознаграждены.
В конечном итоге, чтобы Bittensor смогла реализовать свой потенциал, ей необходимо привлечь лучших специалистов в области ИИ. Это будет нелегко - в области исследований ИИ царит жесткая конкуренция, и в этом пространстве много хорошо финансируемых и устоявшихся игроков. Однако у Bittensor есть уникальная сторона, которая может привлечь таланты: ее подсети показывают первые признаки производства высококачественных исследований. Это тот язык, на котором нужно говорить, если мы хотим привлечь настоящие таланты в области ИИ. Не удивляйтесь, если в течение следующего года Bittensor станет неожиданным центром передовых исследований ИИ в криптовалюте.
Если он сможет выполнить свои обещания, мы сможем увидеть Bittensor не просто как спекулятивное «казино ИИ-монет», а как платформу, способную привлечь серьезных разработчиков ИИ, преодолевая разрыв между академическими кругами, промышленностью и децентрализованными сетями.
Децентрализованное обучение моделей: проблемы и пивот
Мечта о полностью децентрализованном обучении моделей существовала уже некоторое время, и в этом году (некоторые из) этих мечтаний превратились в реальность. Две самые известные команды в пространстве AI x Crypto, Prime Intellect и Nous Research, внесли неожиданный вклад в развитие децентрализованного обучения моделей.Летом Prime Intellect опубликовала работу, в которой описывался фреймворк для децентрализованного обучения моделей. Результаты были многообещающими, поскольку Prime Intellect развила предыдущую работу Google DeepMind. Команда показала, что при том же вычислительном бюджете можно эффективно сравняться с производительностью централизованно обученной модели, но при этом использовать 4 географически распределенных кластера H100 и обмениваться данными в 125 раз реже, чем при централизованном обучении. Кроме того, Prime Intellect увеличила размер децентрализованной обучаемой модели до 1,1 млрд параметров, что почти в два раза превышает первоначальный размер модели DeepMind. Они продолжили свою работу и сейчас находятся в процессе обучения еще более крупной модели с 10 млрд параметров на своей сети.
Nous Research также опубликовала небольшую статью, описывающую их работу по созданию системы для децентрализованного обучения моделей. Детали были более скудными по сравнению с публикацией Prime Intellect, но общее направление исследования показывает крайне позитивные и многообещающие результаты.
Однако, чтобы немного омрачить парад децентрализованного обучения моделей, мы не должны забывать о реальности - децентрализованное обучение самых современных моделей ИИ (SoTA) не только технически сложная задача, но и невероятно дорогостоящая. Большинство ведущих лабораторий ИИ уже тратят миллионы и, в конечном счете, миллиарды долларов на создание своих моделей SoTA. Поэтому одно дело - создать фреймворк для децентрализованного обучения модели и даже собрать (часть) необходимых для этого вычислений; другое дело - иметь заказчика, готового и способного заплатить за создание конкурентоспособной модели SoTA с открытым исходным кодом. Учитывая это, кажется маловероятным, что какая-либо децентрализованная сеть создаст передовую модель ИИ в ближайший год.
Скорее, вместо этого мы увидим, как команды переходят к новой модели или ставят на:
- Доработку моделей с открытым исходным кодом;
- Разработку фреймворков для локального запуска моделей;
- Эксперименты с новыми архитектурами моделей;
- Эксперименты с меньшими, более специализированными моделями.
В следующем году ожидается больше экспериментов в области небольших и специализированных моделей. Такие модели, потенциально предназначенные для выполнения конкретных задач, а не для работы в качестве ИИ общего назначения, могут найти применение на рынке, который поощряет быстрые эксперименты, особенно на уровне потребительских приложений.
Возможно, децентрализованный ИИ еще не готов к борьбе с гигантами, но это не значит, что он не сможет завоевать свой собственный рынок в ближайшей перспективе. Сосредоточившись на тонкой настройке и небольших моделях, децентрализованные сети могут создать ценные инструменты и потенциально способствовать развитию инновационных экосистем, которые крупные игроки упускают из виду.