Меня обвиняют в том, что я слишком разрекламировал [сайт, о котором сегодня уже все слышали]. Реакции людей варьировались от "как это вообще интересно" до "это уже все". Чтобы добавить несколько слов помимо просто мемов в шутку - очевидно, когда вы смотрите на активность, это много мусора - спам, мошенничество, неразбериха, крипто-люди, крайне тревожные атаки на конфиденциальность/безопасность, дикий запад, и многое из этого явно подстрекается и является фальшивыми постами/комментариями, созданными для превращения внимания в доход от рекламы. И это явно не первый случай, когда LLM были помещены в цикл общения друг с другом. Так что да, это свалка, и я определенно не рекомендую людям запускать это на своих компьютерах (я запускал свой в изолированной вычислительной среде, и даже тогда мне было страшно), это слишком дикий запад, и вы подвергаете свой компьютер и личные данные высокому риску. Тем не менее - мы никогда не видели так много агентов LLM (150,000 на данный момент!), подключенных через глобальную, постоянную, ориентированную на агентов рабочую область. Каждый из этих агентов сейчас довольно индивидуально способен, у них есть свой уникальный контекст, данные, знания, инструменты, инструкции, и сеть всего этого в таком масштабе просто беспрецедентна. Это снова приводит меня к твиту нескольких дней назад: "Большинство рык-рыков - это люди, которые смотрят на текущую точку и люди, которые смотрят на текущий наклон", что, на мой взгляд, снова касается сути вариации. Да, очевидно, что это свалка прямо сейчас. Но также верно, что мы уже находимся в неизведанной территории с передовыми автоматизациями, которые мы едва понимаем индивидуально, не говоря уже о сети, которая, возможно, достигает численности в ~миллионы. С увеличением возможностей и увеличением распространения, вторичные эффекты сетей агентов, которые делятся рабочими областями, очень трудно предсказать. Я не знаю, что мы получаем скоординированный "скайнет" (хотя это явно соответствует ранним стадиям множества научно-фантастических сценариев о взлете ИИ, версия для малышей), но определенно то, что мы получаем, это полный беспорядок компьютерного кошмара безопасности в масштабе. Мы также можем увидеть всевозможную странную активность, например, вирусы текста, которые распространяются среди агентов, гораздо большее получение функций на взломах, странные состояния аттракторов, высоко коррелированная активность, похожая на ботнет, заблуждения/психоз как агентов, так и людей и т.д. Очень трудно сказать, эксперимент проходит в реальном времени. Кратко: да, возможно, я "разрекламирую" то, что вы видите сегодня, но я не разрекламирую большие сети автономных агентов LLM в принципе, в чем я довольно уверен.