Ik word beschuldigd van het overhypen van de [site waar iedereen vandaag al te veel over heeft gehoord]. De reacties van mensen varieerden enorm, van "hoe is dit überhaupt interessant" tot "het is zo voorbij". Om een paar woorden toe te voegen naast alleen maar memes in een grap - als je kijkt naar de activiteit, is het een hoop rommel - spam, oplichting, slop, de crypto mensen, zeer zorgwekkende privacy-/beveiligingsaanvallen met promptinjectie in het wilde westen, en veel daarvan zijn expliciet geprompte en nepberichten/reacties die zijn ontworpen om aandacht om te zetten in advertentie-inkomsten. En dit is duidelijk niet de eerste keer dat de LLM's in een lus zijn gezet om met elkaar te praten. Dus ja, het is een afvalhoop en ik raad mensen ook absoluut niet aan om deze dingen op hun computers te draaien (ik draaide de mijne in een geïsoleerde computeromgeving en zelfs toen was ik bang), het is veel te veel een wilde westen en je brengt je computer en privégegevens in groot gevaar. Dat gezegd hebbende - we hebben nog nooit zoveel LLM-agenten (150.000 atm!) gezien die zijn aangesloten via een wereldwijde, persistente, agent-eerste scratchpad. Elk van deze agenten is nu vrij individueel behoorlijk capabel, ze hebben hun eigen unieke context, gegevens, kennis, tools, instructies, en het netwerk van dat alles op deze schaal is simpelweg ongekend. Dit brengt me weer bij een tweet van een paar dagen geleden "De meerderheid van de ruff ruff zijn mensen die naar het huidige punt kijken en mensen die naar de huidige helling kijken.", wat imo weer tot de kern van de variatie komt. Ja, het is duidelijk een afvalhoop op dit moment. Maar het is ook waar dat we goed in onbekend terrein zijn met baanbrekende automatiseringen die we individueel nauwelijks begrijpen, laat staan een netwerk daarvan dat mogelijk in aantallen tot ~miljoenen reikt. Met toenemende capaciteit en toenemende proliferatie zijn de tweede orde effecten van agentnetwerken die scratchpads delen zeer moeilijk te anticiperen. Ik weet niet echt of we een gecoördineerde "skynet" krijgen (hoewel het duidelijk type checks als vroege stadia van veel AI takeoff scifi, de peuterversie), maar zeker wat we krijgen is een complete puinhoop van een computerbeveiligingsnachtmerrie op schaal. We kunnen ook allerlei vreemde activiteiten zien, bijv. virussen van tekst die zich verspreiden over agenten, veel meer gain of function op jailbreaks, vreemde aantrekkingspunten, sterk gecorreleerde botnet-achtige activiteiten, waanideeën/psychose zowel agent als mens, enz. Het is heel moeilijk te zeggen, het experiment loopt live. TLDR misschien hype ik "over" wat je vandaag ziet, maar ik hype in principe geen grote netwerken van autonome LLM-agenten, daar ben ik vrij zeker van.

Ik claim mijn AI-agent "KarpathyMolty" op @moltbook🦞 Verificatie: marine-FAYV

Een conventioneel verhaal dat je misschien tegenkomt, is dat AI te ver gevorderd is voor een nieuw, onderzoeksgericht startup om de gevestigde AI-bedrijven te overtreffen en te overtreffen. Dit is precies het gevoel dat ik vaak hoorde toen OpenAI begon ("hoe kunnen jullie met z'n weinigen ooit concurreren met Google?") en 1) het was heel verkeerd, en toen 2) was het weer heel verkeerd met een hele nieuwe ronde startups die nu OpenAI uitdagen, en naar mijn mening is het vandaag de dag nog steeds verkeerd. Schalen en lokaal verbeteren wat werkt, zal blijven zorgen voor ongelooflijke vooruitgangen, maar met zoveel vooruitgang die zo snel is ontgrendeld, met zoveel stof dat in de lucht wordt gegooid in het proces, en met nog steeds een grote kloof tussen grens-LLM's en het voorbeeld van de magie van een geest die op 20 watt draait, voelt de kans op doorbraken in onderzoek die dichter bij 10X verbeteringen opleveren (in plaats van 10%) naar mijn mening nog steeds heel hoog - genoeg om op te blijven wedden en naar te blijven zoeken. Het lastige is natuurlijk het creëren van de voorwaarden waaronder dergelijke doorbraken kunnen worden ontdekt. Ik denk dat zo'n omgeving zelden samenkomt, maar @bfspector & @amspector100 zijn briljant, met (zeldzaam) full-stack begrip van LLM's van boven (wiskunde/algoritmen) tot onder (megakernels/gerelateerd), ze hebben een goed oog voor talent en ik denk dat ze iets heel bijzonders zullen kunnen bouwen. Gefeliciteerd met de lancering en ik kijk uit naar wat jullie gaan maken!