- Un piccolo gruppo privato su Discord avrebbe ottenuto accesso non autorizzato a Claude Mythos Preview tramite un ambiente di terze parti.
- Mythos è un modello di sicurezza informatica basato sull'intelligenza artificiale, riservato a un numero ristretto di partner aziendali e istituzionali nell'ambito del Progetto Glasswing.
- Secondo quanto riferito, il gruppo avrebbe individuato la posizione online della modella utilizzando convenzioni di denominazione, dati trapelati e privilegi di accesso ai collaboratori esterni.
- Anthropic sta indagando e afferma che al momento non vi sono prove di un impatto sui suoi sistemi interni principali, ma il caso solleva preoccupazioni in merito alla catena di approvvigionamento e al controllo degli accessi.
La recente rivelazione di Presunto accesso non autorizzato al modello Claude Mythos di Anthropic tramite Discord ha riacceso un dibattito spinoso nel mondo dell'IA: come condividere potenti strumenti di sicurezza informatica senza dare agli aggressori esattamente ciò di cui hanno bisogno? Un piccolo gruppo online afferma di essere riuscito a utilizzare Mythos per settimane, nonostante il sistema fosse limitato a un'anteprima strettamente controllata.
Secondo diverse fonti, l'incidente non ha coinvolto un attacco informatico spettacolare in stile hollywoodiano, ma piuttosto un combinazione di autorizzazioni dell'appaltatore, indagini online e supposizioni fondate. riguardo a dove Anthropic ospita i suoi sistemi più sensibili. Per un modello progettato per individuare e sfruttare le vulnerabilità del software su larga scala, il solo suggerimento che soggetti esterni possano sperimentare con esso ha attirato l'attenzione di esperti di sicurezza, aziende e governi.
Cos'è Claude Mythos e perché è importante
Claude Mythos Preview è il nuovo sistema di intelligenza artificiale di Anthropic focalizzato sulla sicurezza informatica., presentato come un modello generico con capacità insolitamente avanzate per rilevare e persino sfruttare le vulnerabilità nei sistemi operativi e nei browser web. Invece di rilasciarlo al pubblico, Anthropic ha posizionato Mythos come uno strumento ad accesso limitato per la difesa delle infrastrutture critiche.
All'inizio di aprile, l'azienda ha svelato Mythos nell'ambito di un'iniziativa nota come Progetto GlasswingNell'ambito di questo programma, solo un ristretto gruppo di organizzazioni fidate è stato invitato a testare il modello. Tra le aziende che hanno avuto accesso anticipato agli esperimenti controllati figurano importanti attori del settore tecnologico e aziendale come Amazon, Microsoft, Apple, Cisco e Nvidia, nonché istituzioni finanziarie come Goldman Sachs.
I partner hanno attribuito a Mythos il merito di aver scoperto un numero significativo di problemi di sicurezza. Un esempio di rilievo, citato ripetutamente nella copertura dell'incidente, è Mozilla, che secondo quanto riferito ha utilizzato il modello per identificare e correggere centinaia di vulnerabilità di FirefoxAnche Anthropic ha affermato che Mythos ha contribuito a far emergere migliaia di vulnerabilità di elevata gravità in software ampiamente utilizzati.
Questi risultati hanno alimentato sia l'ottimismo che l'inquietudine. Da un lato, Rilevamento automatico di bug e configurazioni errate di difficile individuazione Potrebbe aiutare i difensori a rimanere un passo avanti agli attaccanti. D'altro canto, un sistema che semplifica tecniche offensive complesse rischia di diventare un moltiplicatore di forza per la criminalità informatica, soprattutto se i suoi meccanismi di protezione o il modello di accesso falliscono.
Le autorità di regolamentazione ne hanno già preso atto. L'Istituto per la sicurezza dell'IA del Regno Unito avrebbe valutato Mythos e concluso che può Eseguire attacchi informatici in più fasi con un input umano limitato., a volte completando simulazioni di catene di attacchi che normalmente richiederebbero giorni di lavoro a professionisti esperti. Questa valutazione ha contribuito a far percepire Mythos come un modello che sposta continuamente i parametri di riferimento in termini di rischio informatico.
Come il gruppo Discord dice di esserci entrato
In tale contesto, la comparsa di un Gruppo Discord organizzato in modo informale che afferma di avere accesso a Mythos Ciò ha suscitato una comprensibile preoccupazione. Le testimonianze raccolte da Bloomberg e da altri media delineano uno scenario in cui curiosità, conoscenze interne e ricerca open-source si sono combinate per aggirare un perimetro di accesso teoricamente ristretto.
I membri del gruppo partecipano a un Canale Discord privato dedicato al monitoraggio dei modelli di intelligenza artificiale non ancora rilasciati.Il loro obiettivo dichiarato, almeno pubblicamente, è quello di sperimentare sistemi all'avanguardia non ancora disponibili al grande pubblico. Le persone coinvolte non sono state formalmente identificate, ma uno di loro è stato descritto come dipendente di un'azienda appaltatrice che fornisce servizi ad Anthropic.
Quel collegamento con l'appaltatore sembra essere stato fondamentale. I rapporti indicano che l'individuo accesso privilegiato come fornitore esterno era un tassello del puzzle. Oltre a questa conoscenza approfondita, i membri si sono affidati a comuni tecniche di ricerca su internet per mappare l'infrastruttura di Anthropic, nonché alla conoscenza pregressa di come l'azienda denomina e implementa i suoi modelli.
Una recente fuga di dati presso Mercor, una startup di IA separata, avrebbe fornito ulteriori indizi. Le informazioni provenienti da tale violazione, combinate con le precedenti convenzioni di denominazione utilizzate per i modelli antropici, hanno permesso al gruppo Discord di fare una “ipotesi ben fondata” sulla posizione online di Claude MythosAnziché cercare di entrare con la forza, hanno indovinato la porta giusta e l'hanno varcata utilizzando credenziali legate all'ambiente dei fornitori.
Una volta ottenuto l'accesso funzionante, il gruppo avrebbe utilizzato Mythos regolarmente per più di due settimane. Bloomberg afferma di aver esaminato schermate e una dimostrazione dal vivo Ciò sembrava confermare che il modello fosse effettivamente in esecuzione e rispondesse ai comandi impartiti dagli utenti non autorizzati. Ci sono anche affermazioni secondo cui altri modelli Anthropic non ancora rilasciati sarebbero accessibili utilizzando lo stesso approccio, sebbene i dettagli su tali sistemi rimangano scarsi.
Cosa afferma il gruppo di aver fatto con Mythos
Pubblicamente, i partecipanti al Discord hanno cercato di prendere le distanze dall'idea di essere dei criminali informatici. Un membro citato nella copertura dell'episodio ha detto che l'interesse del gruppo risiede in provare nuovi modelli di intelligenza artificiale invece di lanciare attacchiSecondo la loro versione, Mythos veniva utilizzato per esperimenti relativamente innocui, come la generazione di semplici siti web e il test di suggerimenti.
Suggeriscono inoltre di aver evitato comportamenti ad alto rischio che avrebbero potuto attivare allarmi all'interno dei sistemi di monitoraggio di Anthropic. Il gruppo si sarebbe astenuto da query palesemente dannose e da volumi di attività che si sarebbero distinti, puntando invece a “Passare inosservati” mentre si esplorano le capacità del modelloDalle informazioni disponibili, finora non emerge alcuna prova concreta che il gruppo abbia utilizzato Mythos per compromettere obiettivi reali.
Anche se queste autodescrizioni sono accurate, l'incidente ha suscitato inquietudine tra i professionisti della sicurezza. Una volta dimostrato un percorso praticabile in un sistema ristretto, I copioni possono tentare di replicare la tecnica, potenzialmente con motivazioni molto diverse. Il fatto che questa prima ondata di utenti non autorizzati affermi di agire senza intenti malevoli non rassicura affatto i difensori che pensano a cosa succederà dopo.
L'episodio ha anche evidenziato quanto l'accesso a informazioni sensibili possa dipendere dal comportamento di un piccolo numero di individui. Un singolo appaltatore con privilegi parziali e la volontà di aggirare le regole, unitamente a una certa insistenza su un Discord privato, è stato apparentemente sufficiente a violare l'isolamento previsto di un modello di IA ad alto rischio.
La risposta di Anthropic e il problema della catena di fornitura
Anthropic ha preso atto delle segnalazioni e ha dichiarato di aver avviato un'indagine formale. In una dichiarazione rilasciata alla stampa, l'azienda ha precisato: "Stiamo indagando su una segnalazione che denuncia un accesso non autorizzato a Claude Mythos Preview tramite uno degli ambienti di un nostro fornitore terzo." La formulazione è cauta ma significativa.
L'azienda sottolinea che, in questa fase, ha nessuna prova che l'attività si sia estesa ai suoi sistemi aziendali principali o che la sua infrastruttura interna sia stata direttamente compromessa. Inquadrando il problema come circoscritto all'ambiente di un fornitore, Anthropic traccia di fatto un confine tra le sue operazioni centrali e l'ambiente utilizzato dall'appaltatore connesso al gruppo Discord.
Questa distinzione, tuttavia, è proprio ciò che preoccupa molti osservatori. Se Mythos può essere raggiunto da un ambiente di terze parti, allora la postura di sicurezza di ogni partner esterno diventa parte della superficie di attaccoLa situazione illustra un classico rischio della catena di approvvigionamento: anche se un'azienda rafforza le proprie reti, debolezze o configurazioni errate tra i fornitori possono aprire porte inaspettate.
L'incidente si scontra anche con il modo in cui è stato commercializzato il Progetto Glasswing. La logica del programma era che limitare rigorosamente l'accesso a un elenco selezionato di organizzazioni Ciò avrebbe tenuto Mythos lontano dagli avversari, consentendo al contempo test e feedback utili. L'idea di esclusività era centrale: solo entità importanti e verificate avrebbero potuto testare il modello, riducendo la possibilità di un uso improprio.
Se un gruppo Discord informale potesse iniziare a usare Mythos il giorno stesso in cui è stato annunciato, quella narrazione diventa più difficile da sostenere. Anche se non ci sono ancora segni di attacchi nel mondo reale riconducibili al modello, l'episodio suggerisce Il perimetro attorno ai sistemi di intelligenza artificiale sensibili potrebbe essere più fragile del previsto., soprattutto quando sono coinvolti appaltatori e partner esterni.
Preoccupazioni più ampie riguardo all'intelligenza artificiale "troppo potente" nella sicurezza informatica.
Al di là dei dettagli specifici di questo caso, la storia di Mythos si inserisce in una conversazione più ampia su Strumenti di intelligenza artificiale che sfumano il confine tra difesa e attaccoMythos è stato promosso come una sorta di "red team in scatola", in grado di simulare attacchi complessi e di individuare le vulnerabilità molto prima che gli avversari umani se ne accorgano.
I ricercatori di sicurezza sono divisi su come interpretare quella presentazione. Alcuni sono scettici sul fatto che un sistema di intelligenza artificiale, per quanto avanzato, possa scoprire in modo affidabile nuove vulnerabilità al ritmo suggerito nei materiali di marketing. Altri sostengono che, se le affermazioni sono anche solo parzialmente accurate, il rischio di Gli attacchi informatici assistiti dall'intelligenza artificiale diventano più veloci, più economici e più scalabili. è un aspetto che i responsabili politici devono tenere in considerazione nella regolamentazione.
I commenti di figure del settore, compresi i dirigenti delle aziende di sicurezza cloud, riflettono un misto di curiosità e preoccupazione. Da un lato, i difensori vedono un'opportunità per automatizzare analisi noiose e stress test del software in scenari di attacco realisticiD'altro canto, si interrogano su cosa accadrebbe se modelli simili venissero deliberatamente configurati per scopi offensivi e diffusi più ampiamente, o se le misure di sicurezza pensate per prevenire usi dannosi si rivelassero facili da aggirare.
Le agenzie governative stanno iniziando a trattare queste questioni come strategiche piuttosto che puramente tecniche. Secondo quanto riferito, Anthropic è stato designato come “rischio della catena di approvvigionamento” secondo il Dipartimento della Difesa degli Stati Uniti, con dibattiti in corso su cosa tale etichetta dovrebbe implicare e se possa essere rivista. Anche gli organismi internazionali per la sicurezza considerano sistemi come Mythos come casi di studio su come gestire le tecnologie di intelligenza artificiale a duplice uso.
L'incidente di accesso a Discord giunge quindi in un momento delicato. Per le autorità di regolamentazione, potrebbe servire come un primo esempio delle sfide nel controllare chi può utilizzare potenti modelli di intelligenza artificiale, come viene verificato il loro accesso e quali obblighi hanno i fornitori quando le cose vanno male. Per le aziende che prendono in considerazione strumenti simili, ciò solleva questioni pratiche relative alla documentazione, alla registrazione e alla separazione degli ambienti sensibili.
Cosa significa questo per le aziende, gli utenti e la governance dell'IA
Per le organizzazioni che stavano valutando Mythos o sistemi simili, questo episodio probabilmente indurrà a nuove valutazioni del rischio. Il problema principale è semplice: Le stesse caratteristiche che rendono un modello attraente per la difesa possono renderlo pericoloso se maneggiato in modo improprio.Se persino le anteprime riservate possono trapelare nelle comunità informali, le ipotesi su chi effettivamente utilizza questi strumenti potrebbero dover essere aggiornate.
Dal punto di vista della sicurezza aziendale, il caso sottolinea la necessità di esaminare attentamente intera catena di accesso, compresi appaltatori e fornitori più piccoli e implementazione in produzione di team di agenti di intelligenza artificialeLe politiche che appaiono solide sulla carta possono rivelarsi inefficaci nella realtà, dove le persone riutilizzano le credenziali, cercano scorciatoie per comodità o considerano gli ambienti di anteprima come meno critici. Le organizzazioni potrebbero decidere di aver bisogno di una segmentazione più rigorosa per i sistemi di intelligenza artificiale che interagiscono direttamente con il codice e l'infrastruttura in produzione.
Per gli utenti e i dipendenti di tutti i giorni, la storia ricorda che l'IA non è solo un altro software aziendale. Sistemi come Mythos possono comprimere il tempo e le competenze necessarie per individuare i punti deboli, il che amplifica l'impatto di qualsiasi fuga di dati o uso improprio. Questa realtà potrebbe portare alla definizione di nuovi modelli interni di formazione e governance che definiscano chi può interrogare i modelli ad alto rischio e a quali condizioni.
Sul fronte della governance dell'IA, cresce la pressione per andare oltre le linee guida volontarie. Incidenti come questo feed chiedono norme formali in materia di controllo degli accessi, segnalazione degli incidenti e audit indipendenti. per i modelli più performanti. Sia che i responsabili politici optino per una supervisione leggera o per una regolamentazione più rigorosa, è probabile che adducano come giustificazione i casi in cui strumenti soggetti a restrizioni sono finiti in canali non ufficiali.
Per Anthropic stessa, molto dipende da ciò che la sua indagine in corso rivelerà: come funzionava nel dettaglio il percorso di accesso, quante persone erano coinvolte e quali modifiche tecniche o procedurali verranno implementate in seguito. Qualunque sia l'esito, l'episodio Mythos è già diventato un punto di riferimento nelle discussioni su come mantenere l'IA avanzata per la sicurezza informatica confinata ai ruoli per cui i suoi creatori l'hanno concepitae cosa succede quando tale confinamento viene messo a dura prova.
Mettendo insieme tutti questi elementi, il presunto accesso non autorizzato a Discord da parte di Claude Mythos evidenzia quanto velocemente l'intelligenza artificiale all'avanguardia possa sfuggire ai confini ben definiti degli annunci di lancio, rivelando lacune nella sicurezza dei fornitori, mettendo alla prova la solidità delle promesse di "accesso solo su invito" e costringendo aziende, autorità di regolamentazione e utenti a ripensare al modo in cui gestiscono strumenti che possono sia rafforzare che potenzialmente indebolire le difese digitali su cui fanno affidamento.
