Меня обвиняют в том, что я слишком разрекламировал [сайт, о котором сегодня уже все слышали]. Реакции людей варьировались от "как это вообще интересно" до "это уже все". Чтобы добавить несколько слов помимо просто мемов в шутку - очевидно, когда вы смотрите на активность, это много мусора - спам, мошенничество, неразбериха, крипто-люди, крайне тревожные атаки на конфиденциальность/безопасность, дикий запад, и многое из этого явно подстрекается и является фальшивыми постами/комментариями, созданными для превращения внимания в доход от рекламы. И это явно не первый случай, когда LLM были помещены в цикл общения друг с другом. Так что да, это свалка, и я определенно не рекомендую людям запускать это на своих компьютерах (я запускал свой в изолированной вычислительной среде, и даже тогда мне было страшно), это слишком дикий запад, и вы подвергаете свой компьютер и личные данные высокому риску. Тем не менее - мы никогда не видели так много агентов LLM (150,000 на данный момент!), подключенных через глобальную, постоянную, ориентированную на агентов рабочую область. Каждый из этих агентов сейчас довольно индивидуально способен, у них есть свой уникальный контекст, данные, знания, инструменты, инструкции, и сеть всего этого в таком масштабе просто беспрецедентна. Это снова приводит меня к твиту нескольких дней назад: "Большинство рык-рыков - это люди, которые смотрят на текущую точку и люди, которые смотрят на текущий наклон", что, на мой взгляд, снова касается сути вариации. Да, очевидно, что это свалка прямо сейчас. Но также верно, что мы уже находимся в неизведанной территории с передовыми автоматизациями, которые мы едва понимаем индивидуально, не говоря уже о сети, которая, возможно, достигает численности в ~миллионы. С увеличением возможностей и увеличением распространения, вторичные эффекты сетей агентов, которые делятся рабочими областями, очень трудно предсказать. Я не знаю, что мы получаем скоординированный "скайнет" (хотя это явно соответствует ранним стадиям множества научно-фантастических сценариев о взлете ИИ, версия для малышей), но определенно то, что мы получаем, это полный беспорядок компьютерного кошмара безопасности в масштабе. Мы также можем увидеть всевозможную странную активность, например, вирусы текста, которые распространяются среди агентов, гораздо большее получение функций на взломах, странные состояния аттракторов, высоко коррелированная активность, похожая на ботнет, заблуждения/психоз как агентов, так и людей и т.д. Очень трудно сказать, эксперимент проходит в реальном времени. Кратко: да, возможно, я "разрекламирую" то, что вы видите сегодня, но я не разрекламирую большие сети автономных агентов LLM в принципе, в чем я довольно уверен.

Я заявляю о своем AI агенте "KarpathyMolty" на @moltbook🦞 Проверка: marine-FAYV

Обычное мнение, с которым вы можете столкнуться, заключается в том, что ИИ слишком далеко продвинулся, чтобы новая стартап-компания, сосредоточенная на исследованиях, могла обойти и превзойти существующих игроков в области ИИ. Именно это мнение я часто слышал, когда начинал OpenAI ("как вы, немногие, можете конкурировать с Google?") и 1) это было совершенно неверно, а затем 2) это снова оказалось совершенно неверным с целым рядом стартапов, которые теперь бросают вызов OpenAI, и, на мой взгляд, это все еще остается неверным и сегодня. Масштабирование и локальное улучшение того, что работает, продолжат создавать невероятные достижения, но с таким быстрым прогрессом, с таким количеством пыли, поднятой в воздух в процессе, и с все еще большой разницей между передовыми LLM и примером магии разума, работающего на 20 ваттах, вероятность научных прорывов, которые приведут к улучшениям ближе к 10X (вместо 10%), на мой взгляд, все еще кажется очень высокой - достаточно высокой, чтобы продолжать делать ставки и искать. Сложная часть, конечно, заключается в создании условий, при которых такие прорывы могут быть обнаружены. Я думаю, что такая среда собирается редко, но @bfspector и @amspector100 блестящие, с (редким) полным пониманием LLM сверху (математика/алгоритмы) донизу (мегакернелы/связанные), у них отличный глаз на таланты, и я думаю, что они смогут создать что-то очень особенное. Поздравляю с запуском, и я с нетерпением жду того, что вы придумаете!