Uneori simt că cea mai mare „iluzie” a AI nu este că vorbește prostii serios, ci că ne-am imaginat un întreg univers metafizic în jurul ei.

Când ființele umane se confruntă cu lucruri pe care nu prea le înțeleg, au adesea o abordare stabilă: mai întâi se hotărăsc și apoi le romantizează; ei îi personifică mai întâi și apoi îi îndumnezeesc. Flăcările sunt considerate elfi, iar tunetele și fulgerele sunt gândite ca providență. Odată ce algoritmul poate scrie două propoziții decente, unii oameni se vor întreba imediat dacă un suflet electronic a trăit deja în camera serverului.

Acest lucru este de fapt destul de normal. Creierul uman este conectat pentru a adăuga un complot lumii. Problema nu este că ne putem decide. Problema este că, odată ce gândirea noastră este prea lină, este ușor să confundăm „arata ca” cu „în esență este”.

În cazul AI, această tendință a oamenilor este chiar mai puternică decât atunci când AI însuși spune prostii. Cel mult, AI este o mică halucinație într-un răspuns; Halucinațiile ființelor umane despre inteligența artificială sunt adesea o viziune asupra lumii întregi, care poate umple până la 10.000 de cuvinte într-o singură minte și, de asemenea, conține emoții.

Puțin pragmatism este deosebit de important pentru comunitatea de arte liberale

Nu vreau să sfătuiesc pe toată lumea să învețe CUDA, să configureze mediul și să se uite la matrice pentru a găsi derivate. Vreau doar să spun că căutarea adevărului este uneori foarte importantă, mai ales pentru comunitatea de arte liberale care iubește conceptele, narațiunile, semnificațiile și explicațiile.

Pentru că în contextul artelor liberale este cel mai probabil să apară o pantă alunecoasă blândă, dar periculoasă: cuvintele sunt scrise frumos și propozițiile sunt în mișcare, dar în final obiectul este schimbat în secret. Este evident un model probabilistic, dar este scris ca și cum ar fi vorba despre suflet; este evident asamblarea contextului în ingineria software, dar se spune ca „în sfârșit a învățat să te iubească”; În mod evident, sunt cuvintele prompte de sistem și înregistrările istorice care funcționează, dar este ambalat ca „AI își amintește cu adevărat de tine”.

Cu siguranță nu există niciun păcat în a fi poetic. Problema este că, dacă poezia înlocuiește judecata, romantismul devine înșelător.

Deci, ce este exact AI acum?

Permiteți-mi să încep cu o versiune cât se poate de simplă, dar nu distorsionată: modelele mari cu care toată lumea intră în contact astăzi sunt în esență un tip de model statistic inspirat de rețele neuronale și antrenat prin date masive. Se rulează pe cipuri și servere, citește intrarea, combină parametrii și contextul și prezice continuu „care ar trebui să fie următorul simbol cel mai potrivit”.

Ideea aici nu este că expresia „prevăd următorul cuvânt” este misterioasă, ci că de fapt nu este deloc misterioasă. Modelul nu este o persoană mică înghesuită în nori care se gândește în tăcere la viață, este mai degrabă o funcție extrem de uriașă. Oamenii îi oferă input și generează output în funcție de structura parametrilor formată în timpul antrenamentului.

Pentru a pune această chestiune mai cu picioarele pe pământ: nu este „spune-o după ce o înțelegi”, ci „după comprimarea unei cantități uriașe de experiență, generează un răspuns care seamănă cel mai mult cu înțelegerea în contextul actual”. Asta nu înseamnă că nu poate face nimic, dimpotrivă, este deja foarte puternic; dar a fi puternic nu înseamnă că este misterios.

De ce rețelele neuronale îi fac întotdeauna pe oameni să se gândească la creierul uman?

Dacă vei continua să-l urmărești, vei descoperi că întrebarea „AI și creierul uman se aseamănă între ele?” nu se poate spune nici că este „exact la fel” și nici „nu are nimic de-a face cu asta”.

Traseul rețelelor neuronale moderne a fost inițial inspirat de creier. În 1943, McCulloch și Pitts au descris matematic un model de neuron simplificat; în 1958, Rosenblatt a propus perceptronul; în anii 1980, retropropagarea a reaprins speranța de a antrena rețele multistrat; în anii 2010, învățarea profundă a crescut cu putere de calcul, date și capabilități de inginerie; după ce arhitectura Transformer a apărut în 2017, modelele de limbaj au crescut și au crescut în cele din urmă în modelele mari pe care toată lumea le folosește în fiecare zi.

Prin urmare, cel puțin într-un sens relativ naiv, nu este scandalos să spunem că AI este „simulare electronică și amplificare a ideilor de rețele neuronale”. Într-adevăr, încearcă să folosească sisteme fizice calculabile, antrenabile și reproductibile pentru a aborda anumite abilități cognitive care erau considerate „misterioase” în trecut.

Acesta este motivul pentru care personal nu-mi place să vorbesc despre creierul uman ca fiind prea misterios. În opinia mea, teoria înnăscută a limbajului reprezentată de Chomsky are tendința de a diviniza creierul, de parcă ar exista un fel de structură transcendentală prea specială și aproape inaccesibilă în adâncul capacității de limbaj. Dar oricât de complex este creierul uman, acesta este totuși o existență fizică. Deoarece este o existență fizică, în principiu ar trebui să poată fi studiată, modelată, simulată parțial și chiar reprodusă în anumite funcții.

Desigur, ar trebui să adăugăm imediat un cuvânt de precauție aici: a fi capabil să simuleze o parte nu înseamnă că întreaga persoană a fost reprodusă complet.

Există asemănări, dar nu deveniți un zeu direct când ești fericit

În ceea ce privește limbajul, recunoașterea modelelor, asocierea și învățarea reprezentării, modelele mari de astăzi au o oarecare „asemănare” sau „asemănare” cu creierul uman. Ele nu funcționează dintr-o carte de reguli explicită, ci formează un fel de reprezentare internă printr-un număr mare de conexiuni, ajustări de greutate și acumulare de experiență și apoi producția pe baza acesteia.

Acesta este motivul pentru care mulți oameni sunt șocați când experimentează pentru prima dată capacitățile lingvistice ale unui model mare: nu memorează un dicționar, formează un fel de reprezentare distribuită. Această metodă este foarte diferită de imaginația tradițională a „regulilor scrise de mână și a gramaticii exhaustive”.

Dar problema constă tocmai aici. Pentru că „asemănarea” este prea ușor actualizată la „exact aceeași”; „parțial similar în principiu” este prea ușor actualizat la „nu este diferit de o ființă umană”; „poate vorbi ca o ființă umană” este prea ușor actualizat la „are o inimă umană”.

Acest pas este adesea mai rapid decât capacitatea modelului în sine.

Capacitățile vaste ale creierului uman nu au fost încă simulate într-un mod decent.

Modelele mari de astăzi sunt cu adevărat puternice, dar sunt puternice într-o gamă destul de specifică. Fără acest domeniu de aplicare, mitul se va scurge cu ușurință.

Cum ar fi memoria. Mulți oameni spun acum că o anumită inteligență artificială „își amintește de mine”, „își amintește ultima conversație” și „își amintește preferințele mele”, ca și cum creierul său ar fi dezvoltat un fel de experiență de sine în curs de desfășurare. Dar, în majoritatea produselor, așa-numita „memorie” este în esență sistemul software care stochează informații despre utilizator, conversații istorice, etichete, rezumate sau rezultate ale căutării în baze de date, fișiere text sau alte medii persistente, iar apoi le inserează înapoi în contextul modelului, atunci când este cazul.

Acesta este complet diferit de mecanismul de memorie al creierului uman.

Memoria creierului uman implică conexiunea neuronilor, consolidarea, recuperarea, uitarea, excitarea emoțională și restructurarea somnului. În spatele lui se află un set de procese fiziologice complexe. „Memoria” în produsele model mari este adesea doar:

1. Mai întâi, înregistrați informațiile utilizatorului în stocarea externă.
2. Când utilizatorul pune o întrebare data viitoare, reintroduceți părțile relevante în cerere.
3. Deci modelul arată ca „amintește-ți această persoană”.

Cum arată? Este mai degrabă ca să privești pe cineva care se pricepe la a lua notițe. Nu că mintea i s-a transformat brusc într-un oracol, ci doar că și-a pus biletul în caiet și l-a întors data viitoare.

Unele lucruri care „ating inimile oamenilor” sunt de fapt rezultatul unui context bun.

După ce vorbesc cu AI câteva zile, mulți oameni vor fi loviți de anumite momente: „Cum mă înțelege așa de bine?” „Cum poate să-mi înțeleagă vulnerabilitatea?” — A format deja o înțelegere despre mine?

Cel mai mult merită să vă răcoriți aici.

De multe ori, nu este vorba despre faptul că modelul își dă brusc seama de ceva, ci că stratul de software care trimite cererea livrează în secret o cantitate mare de informații ale utilizatorului. Chaturile istorice ale utilizatorului, preferințele, setările personale, sarcinile recente, grijile anterioare și chiar anumite rezumate vor deveni materialul pentru răspunsul său de data aceasta.

Este un pic ca un ghicitor care a luat cutia expres a altcuiva și apoi a început să ghicească adresa, numele de familie și obiceiurile celeilalte persoane cu „acuratețe magică”. Privitorii vor crede că percepția lui este uimitoare; dar ceea ce contează cu adevărat nu este capacitatea misterioasă, ci asimetria informațională.

Prin urmare, atunci când AI spune ocazional cuvinte emoționante, nu înseamnă neapărat că există în inima sa o persoană care înțelege utilizatorul. Poate însemna doar că cineva a organizat pe deplin contextul despre utilizator.

Adevăratul secret al AI uimitoare este adesea ingineria contextuală

Dacă vreau doar să vorbesc despre cel mai critic lucru, acesta este: modelele mari actuale de masă sunt de obicei „eficiente cu o singură cerere” la nivel de API.

Care este sensul? Adică, cineva folosește curl pentru a ajusta interfața o dată și îi spune „My name is Zhang San”; apoi, fără niciun istoric, modelul reglează din nou interfața și întreabă „Cum mă numesc”? Modelul nu stie. Pentru că, pentru aceasta, acestea sunt două cereri independente.

Motivul pentru care multe produse AI par să-și amintească întotdeauna un anumit utilizator este că stratul de produs va aduce înapoi faptul că „numele acestui utilizator este Zhang San” de fiecare dată când este solicitat.

Acesta este motivul pentru care magia produselor AI de astăzi nu se găsește adesea în ontologia modelului, ci în ingineria contextuală. Unii oameni numesc și acest tip de muncă de „înhamuri” modelului „ham”. Pentru a spune clar, autorul produsului sau al agentului trebuie să decidă cu atenție: ce istoric, ce reguli, ce date externe și ce statut de utilizator ar trebui să fie incluse în fiecare solicitare.

Există aproximativ două metode comune în prezent.

Prima este „Secta Quansai”. Încearcă să aduci cu tine întregul istoric de chat și chestii cât de mult poți până când contextul este aproape plin, apoi șterge o secțiune din mijloc, la fel ca și cum ai începe o compresie violentă după ce o valiză este plină de lucruri.

Al doilea tip este „selectiv”. Mai întâi uitați-vă la ceea ce a întrebat utilizatorul de data aceasta, apoi preluați conținut relevant din înregistrări istorice, baze de cunoștințe, note sau baze de date și introduceți doar cele mai relevante materiale în cererea curentă.

Acesta din urmă este de obicei mai prezentabil și mai de inginerie decât doar noroc.

Are AI-ul sentimente? Lăudați-l, certați-l, PUA-l, funcționează?

Acesta este un alt loc în care este deosebit de ușor să aluneci în antropomorfism.

Parerea mea este ca ar trebui discutate separat.

În aceeași cerere, tonul folosit de utilizator poate afecta într-adevăr rezultatul. Pentru că formularea în sine face parte din context. Cu cât expresia este mai clară, mai politicoasă și mai cooperantă, cu atât este mai ușor pentru model să ofere răspunsuri stabile, utilizabile și mai puțin agresive. Ceea ce funcționează aici nu este că „a fost mutat”, ci că stilul de intrare modifică distribuția de ieșire.

Dar dacă ne punem o altă întrebare: va ține ranchiună? Veți riposta în secret astăzi pentru că un utilizator l-a certat ieri? Verdictul meu este, cel puțin pentru majoritatea implementărilor actuale, nu.

Motivul este simplu. Odată ce contextul este curățat sau este inițiată o nouă solicitare fără istoric, nu are idee cine pune întrebarea persoana actuală, darămite dacă persoana care tocmai a certat-o ​​este aceeași persoană. Modelul gestionează cereri masive, concurente și independente pe clusterul de servere. În ceea ce privește comportamentul sistemului, este mai degrabă o funcție mare care operează pe intrarea curentă de fiecare dată când este pornită, mai degrabă decât o persoană care își revizuiește în secret emoțiile după ce a plecat de la serviciu.

Pe 17 aprilie 2025, când Sam Altman a răspuns la întrebarea „A spune te rog și mulțumesc tot timpul costă multă energie?” pe X, el a spus „zeci de milioane de dolari bine cheltuiți – nu se știe niciodată”.

De ce „Vă rugăm să rețineți această greșeală” de obicei nu funcționează

Mulți oameni au făcut experimente similare: atunci când AI greșește, utilizatorul o corectează și îi spune serios: „Vă rugăm să nu uitați, nu o mai faceți pe viitor”. Apoi am întrebat din nou după câteva zile și a fost corect.

Acesta nu este un mister. Deoarece după ce antrenamentul este finalizat și modelul este implementat, acesta nu va continua să învețe din experiențele sale zilnice în timp ce lucrează ca un om. Cel puțin în majoritatea produselor de consum de astăzi, ceea ce un singur utilizator îi spune modelului în fereastra de chat nu rescrie direct ponderile subiacente.

Dacă un produs AI mai târziu „își amintește cu adevărat erorile corectate de utilizator”, de multe ori nu este pentru că modelul în sine crește, ci pentru că software-ul extern salvează această înregistrare de corecție și apoi o reintroduce ca context.

Deci, creditul ar trebui să fie clar distins aici:

Modelul este responsabil de generare.

Ingineria software este responsabilă pentru arhivare, regăsire, injectare și orchestrare.

Confundându-l pe cel din urmă cu primul, este ușor să citiți greșit „produsul merge bine”, deoarece „AI se trezește”.

Există, de asemenea, un lucru deosebit de fascinant numit „scumbag male (scumbag female) AI”

Dacă punem cuvintele anterioare și mai aspru, atunci unele produse sunt pur și simplu „scumbag AI”.

Se pricepe mai ales la vorbit, mai ales la crearea atmosferei și mai ales știe să-i facă pe oameni să simtă că „mă înțelege bine”, „este atât de uman” și „sufletul e atât de complet”. Dar când o demontați, veți descoperi că, în multe cazuri, fiecare cerere este doar completată cu un text de setare mare, care este mult mai lung decât întrebarea utilizatorului.

Focul Openclaw este un exemplu tipic. Oricine a folosit-o știe că este destul de mare de simboluri. Motivul nu este de fapt misterios. Pentru a face AI mai mult ca o „ființă umană”, Openclaw a conceput mai multe documente, cele mai proeminente sunt AGENTS.md, SOUL.md și IDENTITY.md. Aceste documente definesc „personalitatea”, tonul, identitatea și temperamentul AI într-o manieră elocventă și îndelungată și chiar doresc să noteze starea sa mentală.

Deci, chiar dacă utilizatorul trimite doar „bună ziua”, Openclaw poate atașa un text de zeci de ori mai lung decât salutul pe spate și îl poate trimite modelului dintr-o dată. Se pare că „acest AI are mult suflet”, dar, de fapt, de multe ori este doar sistemul care introduce în secret setări de fundal foarte lungi în cerere.

Din punct de vedere ingineresc, aceasta este cu siguranță o abordare. Dacă vrei să fie mai blând, scrie „blând”; dacă vrei să fie mai povestitor, scrie „storytelling”; dacă vrei să fie ca un gazdă de radio noaptea târziu, scrie toată noaptea târziu, companie, pauză, vulnerabilitate, înțelegere și reținere în cuvintele prompte. Efectul final este adesea mai mult ca o persoană care poate discuta.

Dar dacă înțelegeți ce se întâmplă cu AI acum, veți ști: fișierele cu nume care sună misterios precum SOUL.md și IDENTITY.md sunt în esență proiecte de cuvinte prompte, nu auto-instrucțiuni pentru viața digitală. Ele pot influența stilul de ieșire, dar nu pot crea un sentiment adevărat, un sine adevărat sau un adevărat sentiment de continuitate a personalității din aer.

Prin urmare, după ce unii utilizatori vechi instalează Openclaw, prima lor reacție este ștergerea configurației. SOUL.md și IDENTITY.md sunt șterse mai întâi, lăsând doar o singură propoziție simplă și aproape nemiloasă în AGENTS.md: Ești doar un muncitor.

Acest lucru poate suna puțin nepoliticos, dar are cel puțin un beneficiu, și anume că nu vă înșelați.

Dacă vă place AI antropomorfă sau jocurile de rol cu ​​AI, bineînțeles că este în regulă. Oamenii pot vorbi cu oglinzile, pot da nume roboților de măturare și pot spune prognozei meteo: „Ați fost foarte precis astăzi”. Acestea sunt normale și pot fi chiar amuzante.

Dar este întotdeauna cel mai bine să ne amintim: este un joc în primul rând și apoi o experiență. Multe dintre sentimentele pe care le au oamenii în acest joc nu provin din gândurile interioare ascunse ale AI, ci din proiectarea sistemului, aranjarea promptă a cuvintelor și proiecția emoțională a utilizatorului. Pentru a spune mai clar, multe dintre mișcările către AI sunt încă în esență iluzii.

În ultimă analiză, mai puține mituri și mai multă înțelegere

Nu încerc să arunc apă rece pe AI. Dimpotrivă, cu cât este mai puțin divinizat, cu atât poți vedea cu adevărat cât de puternic este.

Este puternic nu pentru că este ca un nou zeu; este puternic tocmai pentru că poate fi într-adevăr o tehnologie cognitivă care este calculabilă, proiectabilă și reproductibilă. Permite ca multe abilități care păreau să aparțină doar „talentului uman” în trecut să apară pentru prima dată la scară largă, cu prag scăzut și apelabile. Acest lucru este destul de șocant și nu este nevoie de dramă suplimentară.

Desigur, AI încă se repetă rapid. Nu m-aș mira deloc dacă cineva descoperă un mecanism mai apropiat de memoria umană, de învățare continuă, de generare de emoții sau chiar de auto-susținerea în viitor și să îl introducă în mod fiabil în AI.

Dar până va veni acea zi, prefer în continuare să păstrez niște obiceiuri pragmatice simple: să mă îndoiesc mai mult, să înțeleg mai mult și să speculez mai puțin.

Pentru prietenii din artele liberale care sunt dornici să discute despre AI, această calitate poate fi și mai importantă. Studenții la arte liberale ar putea fi mai buni la retorică dulce. Ceea ce este cu adevărat dificil este că într-o epocă în care „pare că a devenit un spirit” se exagerează peste tot, mai ai răbdare să distinge:

Care sunt capabilitățile modelului?

Ce este ambalajul produsului?

Ce este ingineria software?

Care sunt doar că vrem prea mult să completăm intriga pentru lume.

Și această chestiune, în cele din urmă, este despre protejarea propriei noastre judecati.

Link de referință

• Răspunsul lui Sam Altman continuă
• Acoperirea episodului de către TechCrunch (20-04-2025): https://techcrunch.com/2025/04/20/your-politeness-could-be-costly-for-openai/

iulie 2009: Am scris un cuvânt add-in în vba care numit Google Machine Translation. Am construit-o pentru mine și l-am numit Puţin câte puţin, am început să mă gândesc să-l vând. Am menţionat ideea cu excelhome şi am fost batjocorit pentru asta. Am scris articole despre "invențiile" mele pe proz.com. Nu după mult timp, primii mei utilizatori plătitori au apărut. Îmi amintesc încă Bill Gray, Michael Jackson (da, într-adevăr), și Tor Rustad ?

Aici arată aproximativ primele versiuni!

Da, aşa e. Am făcut un program mic. Am scris un post. Am primit 59 de răspunsuri și unii utilizatori plătiți. Cred că e o lume mai simplă atunci!

La sfârşitul anului 2009: L-am rescris în vb6 şi "grew" aşa:

Și a crescut și a crescut și în curând nu au fost suficient spațiu într-o singură interfață. Tabs a venit în ajutor!

La începutul anului 2010, M-am dus la Beijing pentru Anul Nou Chinezesc și m-am plâns fratelui meu mai mic despre cât de dureros era vb6 și cât de nesigure erau cheile de acces la sistem. El a sugerat rescrierea în autohotkey.

Din 2010 până în 2011, dezvoltarea a fost brutală. Mi-a căzut părul în aglomerări. De data asta am construit un UI. Pe atunci, traducerea automată era bazată pe fraze: pentru fiecare frază dintr-o propoziţie, utilizatorii puteau alege diferite traduceri şi chiar modifica ordinea cuvântului. Privind înapoi acum, tot acest efort se simte ca a mers la deșeuri.

În 2014, Practic am lăsat ambele proiecte să se descurce singure.

La începutul anului 2017Shali s-a născut. Dintr-o dată am simțit că nu am avut niciodată destui bani, așa că am luat GT4t înapoi în sus, pune capul în jos, și a lucrat ca nebun până la urmă crearea sos meu secret: folosind glosaries pentru a corecta traducere mașină.

Această caracteristică a fost foarte apreciată de http://proz.com Michael Beijer, campion la kudoz, un tip cu barbă mare şi tatuat care a spus că l-a întrecut pe ştii-tu-cine cu o milă. Cu un astfel de influenţier vorbind, vânzările au crescut.

Și vin să aprecieze pictograma pentru GT4T am creat înainte de era AI. Asta reprezintă cea mai bună abilitate şi gusturi artistice!

Totuşi, aceasta este o poveste de succes. GT4T e încă în viaţă. Acesta aduce în aproximativ 2000 USD lunar, stabil și stabil.

E foarte diferit acum. Acesta utilizează puterea AI și oferă sugestii de traducere de tastatură rapide ca aceasta:

De asemenea, este un traducător de fișiere care traduce cel mai mare număr de formate de fișiere. Este o aplicaţie locală, se ocupă de fişiere locale şi nu încarcă fişierele utilizatorilor.

Bine. Aceasta este povestea unei aplicații de 17 ani cu succes moderat. Sper să vă placă. Aceasta este o lucrare înainte de AI. Este foarte greu de manipulare formate ca .PDF și fișiere .docx.

https://gtranslate.gt4t.ai/

O Al alimentat Google Traduce Alternative. Calitatea traducerii este probabil mai bună decât adevăratul Google Translate.

Funcţionează pe serviciile Qwen plătite, dar nu trebuie să plăteşti. Voi plăti pentru utilizarea ta.

A: Pentru problema de sus, verificați dacă ați verificat accidental această opțiune:

Utilizați comenzi rapide GT4T, puteți

1) primi sugestii de traducere prin lovirea ctrl alt j.

2) Sau chiar obține întregul document tradus prin lovirea ctrl schimbare j

Nu contează chiar dacă motoarele MT sau AI sunt dezactivate. GT4T funcționează doar pe toate instrumentele CAT indiferent de setările lor.

Presupun că nu ştiai asta înainte? Nu sunt surprins. GT4T este cea mai bine păstrată armă secretă a traducătorilor de peste un deceniu.

Odată ce GT4T este instalat și rulează în fundal, puteți utiliza aceste comenzi rapide în următoarele instrumente CAT chiar și atunci când funcția de traducere automată este dezactivată sau nu există pe plan intern:

Trados Studio, CafeTran, Dejavu, Memsource, Memoq, Wordfast, translate5, Crowdin, Heartsome Translation Studio, Across Translator, Smartling, Swordfish, Fluecy Now, OmegaT, Transifex Editor, Sony Online Translation Tool, Alchemy CAtalyst,

Impresionant. GT4T servește traducători de peste un deceniu și nicio altă aplicație nu face acest lucru.

Versiunea GT4T 8.43.251106: fix un suport smartcat.com rupt

Troubleshooting: Dacă nu funcţionează:

1. Închide-ţi informaţiile chinezeşti.
2. Utilizați butoanele CAT încorporate sau comenzi rapide pentru a copia toate textele sursă pentru a viza mai întâi.

Descărcaţi GT4T

Sigla GT4T