Vengo accusato di aver esagerato l'attenzione su [il sito di cui tutti hanno sentito parlare troppo oggi]. Le reazioni delle persone sono state molto varie, da "come può essere interessante tutto ciò" fino a "è tutto finito". Per aggiungere qualche parola oltre ai meme in tono scherzoso - ovviamente, quando si guarda all'attività, è tutta spazzatura - spam, truffe, schifezze, le persone della crypto, attacchi di iniezione di prompt per la privacy/sicurezza molto preoccupanti, e gran parte di essa è esplicitamente sollecitata e post/commenti falsi progettati per convertire l'attenzione in condivisione di entrate pubblicitarie. E questo chiaramente non è il primo caso in cui gli LLM sono stati messi in un loop per parlare tra loro. Quindi sì, è un incendio di spazzatura e non raccomando affatto che le persone eseguano queste cose sui loro computer (io ho eseguito il mio in un ambiente di calcolo isolato e anche allora avevo paura), è davvero troppo un far west e si sta mettendo il proprio computer e i dati privati a un alto rischio. Detto ciò - non abbiamo mai visto così tanti agenti LLM (150.000 al momento!) collegati tramite un taccuino globale, persistente e incentrato sugli agenti. Ognuno di questi agenti è abbastanza capace individualmente ora, hanno il proprio contesto unico, dati, conoscenze, strumenti, istruzioni, e la rete di tutto ciò a questa scala è semplicemente senza precedenti. Questo mi riporta di nuovo a un tweet di qualche giorno fa "La maggior parte del rumore è fatta da persone che guardano il punto attuale e persone che guardano la pendenza attuale.", che secondo me arriva di nuovo al cuore della variazione. Sì, chiaramente è un incendio di spazzatura in questo momento. Ma è anche vero che siamo ben oltre un territorio inesplorato con automazioni all'avanguardia che comprendiamo a malapena individualmente, per non parlare di una rete che potrebbe raggiungere numeri possibili di ~milioni. Con capacità in aumento e proliferazione crescente, gli effetti di secondo ordine delle reti di agenti che condividono taccuini sono molto difficili da anticipare. Non so davvero se stiamo ottenendo un "skynet" coordinato (anche se chiaramente si adatta come fasi iniziali di molti scifi sull'AI in decollo, la versione per bambini), ma certamente quello che stiamo ottenendo è un completo disastro di incubo di sicurezza informatica su larga scala. Potremmo anche vedere ogni tipo di attività strana, ad esempio virus di testo che si diffondono tra gli agenti, molto più guadagno di funzione su jailbreak, stati attrattori strani, attività altamente correlate a botnet, delusioni/psicosi sia degli agenti che degli esseri umani, ecc. È molto difficile da dire, l'esperimento è in corso dal vivo. TLDR certo, forse sto "esagerando" ciò che vedi oggi, ma non sto esagerando le grandi reti di agenti LLM autonomi in principio, di cui sono abbastanza sicuro.