Anthropic ka prezantuar një përmirësim madhor për modelin Claude Sonnet 4, duke e zgjeruar dritaren e kontekstit në 1 milion token në API-në e Anthropic. Ky përditësim, që përfaqëson një rritje pesëfish nga kufiri i mëparshëm, u mundëson zhvilluesve të përpunojnë në një kërkesë të vetme codebase me mbi 75,000 rreshta ose dhjetëra punime kërkimore voluminoze. Funksioni i kontekstit të zgjeruar është tani publik beta në API-në e Anthropic dhe në Amazon Bedrock, ndërsa integrimi me Vertex AI të Google Cloud pritet së shpejti.
Me këtë kapacitet të zgjeruar, zhvilluesit mund të realizojnë operacione më të sofistikuara dhe intensive në të dhëna. Analiza e kodit në shkallë të gjerë bëhet më e lehtë, pasi projekte të plota përfshirë skedarët burimorë, testet dhe dokumentacioni mund të ngarkohen njëherësh. Kjo i lejon Claude të kuptojë arkitekturën e plotë të sistemit, të identifikojë varësitë ndërmjet skedarëve dhe të sugjerojë përmirësime që marrin parasysh të gjithë projektin. Po ashtu, aftësitë për sintezën e dokumenteve rriten ndjeshëm, duke mundësuar analizimin e koleksioneve të mëdha të kontratave ligjore, specifikimeve teknike apo punimeve kërkimore, pa humbur kontekstin midis qindra dokumenteve.
Dritarja e gjatë e kontekstit gjithashtu përmirëson krijimin e agjentëve inteligjentë të vetëdijshëm për kontekstin. Këta agjentë mund të ruajnë vazhdimësinë gjatë qindra ekzekutimeve, thirrjeve API dhe hapave të shumtë të punës, pa humbur lidhjen me ndërveprimet e mëparshme. Kjo rrit besueshmërinë dhe koherencën në procese komplekse dhe afatgjata të drejtuara nga AI.
Për shkak të kërkesave më të larta kompjuterike, Anthropic ka rishikuar çmimet për kërkesat mbi 200 mijë token. Për hyrje deri në 200K token, çmimet mbeten $3 për milion token (MTok) për input dhe $15/MTok për output. Për kërkesat mbi 200K token, çmimi është $6/MTok për input dhe $22.50/MTok për output. Kompania thekson se ruajtja e prompt-eve dhe përpunimi në grup mund të ndihmojnë në uljen e kostove dhe vonesës, me përpunimin në grup që ofron deri në 50% kursim.
Disa kompani kanë filluar tashmë ta përdorin këtë kapacitet të zgjeruar. Bolt.new, një platformë zhvillimi në shfletues, thotë se përditësimi u lejon zhvilluesve të punojnë me projekte dukshëm më të mëdha duke ruajtur saktësinë e lartë të gjenerimit të kodit. iGent AI, kompania londineze që ka zhvilluar Maestro një asistent autonom për inxhinieri softuerike thekson se kufiri prej 1 milion token ka mundësuar sesione prodhimi në shkallë të gjerë që zgjasin disa ditë, duke e quajtur këtë “një paradigmë të re në inxhinierinë agjentike të softuerit”.
Funksioni i kontekstit të zgjeruar është i disponueshëm tani për klientët Tier 4 dhe ata me limite të personalizuara në API-në e Anthropic. Ai është gjithashtu aktiv në Amazon Bedrock dhe do të jetë së shpejti në Google Cloud Vertex AI. Anthropic po eksploron gjithashtu mënyrat për ta sjellë këtë aftësi edhe në produktet e tjera Claude në të ardhmen.