Conform HotNews: Satya Nadella avertizează asupra riscului ca marile companii AI să concureze cu propriii clienți
Marile laboratoare de inteligență artificială care vând acces la modelele lor ar putea acționa, neintenționat, ca niște „cai troieni”, permițând companiilor ce folosesc aceste servicii să își divulge informații sensibile care ar putea fi ulterior folosite împotriva lor. Această temere, exprimată de mai mulți actori din industria tech, inclusiv de CEO-ul Palantir, Alex Karp, a fost recent amplificată de o declarație publică a lui Satya Nadella, directorul general al Microsoft.
Nadella subliniază că utilizatorii modelelor AI plătesc, de fapt, de două ori. Pe lângă costul financiar al utilizării, aceștia cedează date valoroase, esențiale pentru funcționarea și îmbunătățirea sistemelor. Cu cât un model AI este mai performant, cu atât mai multe informații proprietare ale utilizatorului sunt necesare pentru a-l antrena, creând astfel un pericol de concurență neloială.
„Genul de cunoaștere pe care un concurent nu ar putea niciodată să o cumpere”
Potrivit lui Satya Nadella, companiile care apelează la servicii AI cedă informații extrem de valoroase. Acestea includ observații despre modul în care sunt introduse comenzile (prompt-urile), modul în care sunt utilizate instrumentele specifice sau corecțiile aduse atunci când modelul greșește. Fiecare dintre aceste interacțiuni contribuie la „distilarea” unui „know-how” instituțional unic.
Acest tip de cunoaștere este, în viziunea CEO-ului Microsoft, imposibil de achiziționat prin mijloace convenționale de pe piață. Prin însăși natura utilizării modelelor AI oferite de terți, companiile ajung să transfere aceste informații strategice către furnizori, care ar putea, teoretic, să le folosească în propriul lor beneficiu, inclusiv pentru a concura direct cu clienții lor.
Paradoxul „distilării” și propunerea lui Nadella
Nadella aduce în discuție și practica denumită „distilare”, prin care rezultatele obținute de la un model AI mare sunt folosite pentru a antrena un model mai mic și mai eficient. În februarie, compania Anthropic a acuzat firme din China că folosesc milioane de comenzi către modelul lor, Claude, pentru a-și dezvolta propriile inteligențe artificiale.
CEO-ul Microsoft consideră ipocrit ca dezvoltatorii de modele AI să își antreneze liber sistemele pe date publice globale, invocând „fair use”, dar ulterior să impună restricții severe asupra posibilității ca alte entități să studieze sau să „distileze” propriile lor modele. Deși Microsoft este un investitor major în OpenAI, compania din spatele ChatGPT, Nadella susține că logica ar trebui să fie reciprocă.
Ca soluție, Nadella propune ca firmele să își păstreze integral proprietatea asupra datelor generate de interacțiunea lor cu AI-ul, inclusiv asupra prompt-urilor și a feedback-ului oferit. De asemenea, el recomandă implementarea unor „straturi de orchestrare”. Acestea ar permite companiilor să alterneze între diferiți furnizori de modele AI, evitând astfel dependența de un singur ecosistem și sporind controlul asupra propriilor active informaționale. Nadella concluzionează că, atunci când o companie consumă inteligență, ea creează, implicit, inteligență nouă, iar aceasta ar trebui să îi aparțină.
Sursa: HotNews
