Anthropic Detaliază Campanii de Distilare de la Alibaba, Moonshot AI și DeepSeek

Anthropic a publicat un raport în care susține că mai multe companii chineze de AI, numind în mod specific Alibaba, Moonshot AI și DeepSeek, au fost implicate în campanii persistente de distilare. Aceste atacuri implică antrenarea modelelor AI pe date proprietare sau pe ieșirile altor modele, o practică care s-a intensificat recent. Intensificarea este atribuită concurenței acerbe din peisajul AI în rapidă evoluție, determinând companiile să caute scurtături în dezvoltarea modelelor.

Natura tehnică a acestor atacuri se concentrează pe extragerea cunoștințelor dintr-un model mai mare și mai capabil („profesorul”) pentru a antrena unul mai mic și mai eficient („studentul”). Deși distilarea este o tehnică legitimă, raportul implică acces neautorizat sau colectarea ieșirilor modelului Anthropic. Această practică ridică preocupări semnificative legate de furtul de proprietate intelectuală și integritatea dezvoltării AI, deoarece ocolește eforturile extinse de cercetare și dezvoltare necesare pentru a construi modele de ultimă generație precum cele de la Anthropic.

Această dezvăluire subliniază provocările tot mai mari în securizarea modelelor și datelor AI pe o piață globală competitivă. Implicațiile depășesc proprietatea intelectuală, putând afecta siguranța și fiabilitatea sistemelor AI dacă sunt antrenate pe date compromise sau neautorizate. Raportul Anthropic servește ca un avertisment și un apel la o mai mare transparență și considerații etice în dezvoltarea AI, cu acțiuni viitoare care probabil vor implica discuții la nivel de industrie despre cele mai bune practici și posibile răspunsuri de reglementare.