Subiecte populare
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Cum creează ordinea din partea zgomotului: Un principiu universal care leagă fizica de învățarea automată
Zgomotul este de obicei dușmanul structurii. Totuși, în anumite sisteme — de la suspensii coloidale tăiate până la algoritmi de optimizare stocastică — interacțiunile locale zgomotoase generează paradoxal o ordine spațială pe distanțe lungi. Acest fenomen, numit hiperuniformitate, suprimă fluctuațiile de densitate la scară mare, dar modul în care apare din dinamici pur locale și zgomotoase a rămas o întrebare deschisă timp de două decenii.
Satyam Anand, Guanming Zhang și Stefano Martiniani studiază trei sisteme paradigmatice: organizarea aleatorie (RO) și organizarea aleatorie părtinitoare (BRO) din fizica materiei moale, și coborârea stocastică a gradientului (SGD) din învățarea automată. Fiecare sistem are surse microscopice de zgomot fundamental diferite — direcții aleatoare ale loviturii în RO, magnitudine aleatoare a loviturii în BRO și selecție aleatorie a particulelor în SGD — totuși toate suferă aceeași tranziție de fază de la absorbție la activă pe măsură ce densitatea particulelor crește.
Constatarea cheie: în ciuda acestor diferențe microscopice, toate cele trei sisteme prezintă un comportament universal pe distanțe lungi identic, guvernat de un singur parametru — coeficientul de corelație a zgomotului c între perechile de particule. Când zgomotul pereche nu este corelat (c = 0), sistemele rămân dezordonate. Pe măsură ce c se apropie de −1 (lovituri anti-corelate, care conservă impulsul), scala de lungime a crossover-ului pentru suprimarea densității diverge, iar sistemele devin puternic hiperuniforme.
Autorii dezvoltă o teorie hidrodinamică fluctuantă care prezice cantitativ factorul de structură în toate sistemele fără parametri liberi.
Poate cea mai izbitoare este legătura cu învățarea automată: același zgomot anti-corelat care produce hiperuniformitate determină și orientarea către regiunile mai plate ale peisajului energetic — chiar caracteristica legată de generalizarea robustă în rețelele neuronale. Fracțiile de loturi mai mici și ratele de învățare mai mari, cunoscute empiric pentru îmbunătățirea generalizării, produc atât structuri pe distanțe lungi mai puternice, cât și minime mai plate în sistemele de particule.
Implicația este puternică: tendința SGD de a găsi minime plate nu este o particularitate a peisajelor de pierdere a rețelelor neuronale, ci o caracteristică universală a optimizării stocastice în spații de dimensiuni înalte — deschizând noi căi, de la proiectarea materialelor hiperuniforme până la înțelegerea motivului pentru care învățarea profundă se generalizează.
Hârtie:

Limită superioară
Clasament
Favorite
