Minua syytetään liiallisesta hypetyksestä [sivustosta, josta kaikki ovat kuulleet jo liikaa tänään]. Ihmisten reaktiot vaihtelivat hyvin paljon, aina "miten tämä on ylipäätään kiinnostavaa" aina "se on jo ohi". Lisätään muutama sana pelkkien meemien lisäksi – kun katsoo toimintaa, se on selvästi roskaa – roskapostia, huijauksia, sotkua, kryptoihmisiä, huolestuttavia yksityisyys- ja turvallisuuskehotteiden injektiointihyökkäyksiä villi länsi, ja suuri osa niistä on nimenomaan kannustettuja ja väärennettyjä postauksia/kommentteja, jotka on suunniteltu kääntämään huomio mainostulonjaoksi. Eikä tämä selvästikään ole ensimmäinen kerta, kun LLM:t laitettiin silmukkaan keskustelemaan keskenään. Joten kyllä, tämä on täysi sekasorto, enkä myöskään suosittele, että ihmiset pyörittävät näitä asioita tietokoneillaan (minä ajoin omani eristetyssä tietokoneympäristössä ja pelkäsin silloinkin), se on aivan liian villi länsi ja asetat tietokoneesi ja yksityiset tietosi suureen riskiin. Sanottakoon kuitenkin, että emme ole koskaan nähneet näin monen LLM-agentin (150 000 tällä hetkellä!) kytkettynä globaalin, pysyvän, agenttilähtöisen muistilehtiön kautta. Jokainen näistä agenteista on nyt melko yksilöllisesti kykeneviä, heillä on oma ainutlaatuinen kontekstinsa, datansa, tietonsa, työkalunsa, ohjeensa, ja kaiken tämän verkosto tässä mittakaavassa on yksinkertaisesti ennennäkemätön. Tämä tuo minut taas muutaman päivän takaiseen twiittiin "Suurin osa ruff-ruffista on ihmisiä, jotka katsovat nykyistä pistettä ja niitä, jotka katsovat nykyistä kaltevuutta.", mikä mielestäni taas menee varianssin ytimeen. Kyllä, nyt on selvästi sekasorto. Mutta on myös totta, että olemme jo syvällä kartoittamattomilla alueilla, joissa on huippuluokan automaatioita, joita tuskin edes ymmärrämme yksittäin, saati sitten verkostossa, joka ulottuu mahdollisesti ~miljooniin. Kasvavan kyvykkyyden ja lisääntyvän leviämisen myötä agenttiverkkojen toisen asteen vaikutuksia, jotka jakavat scratchpadit, ovat hyvin vaikeasti ennakoitavissa. En oikeastaan tiedä, saammeko koordinoidun "skynetin" (vaikka se selvästi tekee tyyppitarkistuksia monien tekoälyn noususcifi-sarjan alkuvaiheissa, taaperoversiossa), mutta varmasti se, mitä saamme, on täysi sekasotku tietokoneturvallisuuden painajaisena laajassa mittakaavassa. Saatamme myös nähdä kaikenlaista outoa toimintaa, kuten tekstiviruksia, jotka leviävät agenttien välillä, paljon enemmän toimintakykyä jailbreakeissa, outoja vetovoimatiloja, vahvasti korreloitunutta botnetin kaltaista toimintaa, harhaluuloja/psykooseja sekä agenteilla että ihmisillä jne. On todella vaikea sanoa, koe pyörii livenä. TLDR: ehkä ehkä "liioittelen" sitä, mitä näet tänään, mutta en periaatteessa liikaa hypeä suuria autonomisten LLM-agenttien verkostoja, siitä olen melko varma.

Otan AI-agenttini "KarpathyMoltyn" @moltbook🦞 Vahvistus: meri-FAYV

Tavanomainen kertomus on, että tekoäly on liian pitkällä uudelle, tutkimukseen keskittyvälle startupille kilpailla ja päihittää tekoälyn nykyiset toimijat. Tämä on juuri se ajatus, jota kuuntelin usein, kun OpenAI alkoi ("miten harvat teistä voisivat kilpailla Googlen kanssa?") ja 1) se oli todella väärin, ja sitten 2) se oli taas todella väärin kokonaan uuden startup-kierroksen kanssa, jotka nyt haastavat OpenAI:n puolestaan, ja mielestäni se on edelleen väärässä. Skaalaamalla ja paikallisesti parantamalla toimivia asioita luovat uskomattomia edistysaskeleita, mutta kun niin paljon edistystä avautuu niin nopeasti, pölyä nousee ilmaan ja rajaseudun LLM:ien sekä 20 watin taikuuden esimerkkitodistus on edelleen suuri ero, tutkimusläpimurtojen todennäköisyys, jotka tuottavat lähempänä 10-kertaisia parannuksia (10 % sijaan, tuntuu mielestäni silti hyvin korkealta – riittävästi Korkea, jotta voit jatkaa lyömistä ja etsiä sitä. Haastava osa on tietysti luoda olosuhteet, joissa tällaisia läpimurtoja voidaan löytää. Uskon, että tällainen ympäristö syntyy harvoin, mutta @bfspector ja @amspector100 ovat loistavia, ja (harvoin) täysimittainen ymmärrys LLM:istä ylhäältä (matematiikka/algoritmit) alas (megakernelit/siihen liittyvät), heillä on erinomainen silmä lahjakkuudelle ja uskon, että he pystyvät rakentamaan jotain todella erityistä. Onnittelut lanseerauksesta ja odotan innolla, mitä keksit!