Conform Mediafax: OpenAI lansează o nouă tehnologie pentru accelerarea procesării modelelor AI, capabilă să opereze de până la 14 ori mai rapid decât metodele standard. Această inovație, denumită „Ultrafast mode”, este concepută pentru a răspunde nevoilor de viteză în situații critice, fără a compromite performanța modelelor de vârf. Compania promite „mai multă muncă utilă pe secundă” pentru utilizatori.
GPT-5.6 Sol, vârful de gamă al noii familii GPT-5.6, alături de modelele Terra și Luna, este prezentat ca fiind cel mai performant instrument dezvoltat de OpenAI pentru sarcini complexe. Acestea includ programarea, analizele profesionale, cercetarea științifică și securitatea cibernetică.
Performanță accelerată prin infrastructură dedicată
Viteza impresionantă de până la 750 de tokenuri pe secundă este realizată printr-o infrastructură colaborativă cu producătorul de cipuri Cerebras. Inițial, accesul la această tehnologie va fi limitat, urmând să fie extins pe măsură ce capacitatea disponibilă crește.
Destinat mediilor profesionale și fluxurilor critice
Aplicațiile potențiale ale acestei procesări accelerate sunt variate și esențiale pentru mediile de business. OpenAI indică faptul că accelerarea poate fi crucială în gestionarea incidentelor, serviciile pentru clienți, monitorizarea piețelor financiare și comerțul electronic. În aceste domenii, fiecare secundă contează, iar timpul de răspuns poate influența direct succesul operațiunilor.
Pe lângă accelerarea simplă a generării de răspunsuri, OpenAI a implementat și funcția „ultra”. Aceasta implică utilizarea mai multor agenți AI care lucrează în paralel pentru a gestiona sarcini complexe. Scopul este de a executa multiple fluxuri de lucru simultan, optimizând astfel eficiența.
Competiție acerbă pe piața AI
Această mișcare strategică intervine într-un context de competiție intensă între furnizorii de modele AI, unde reducerea latenței este un obiectiv major. În prezent, OpenAI oferă deja pentru GPT-5.6 Sol un „Fast mode”, care dublează viteza față de procesarea standard în API, dar la un cost de două ori mai mare.
Cu noua infrastructură bazată pe Cerebras, vitezele anunțate de până la 750 de tokenuri pe secundă reprezintă un salt semnificativ față de performanța standard.
Sursa: Mediafax
