Twee ontwikkelaars hebben onafhankelijk van elkaar ontdekt dat Meta's AI-assistent Muse zijn volledige bestandssysteem kan delen. Met enkele opdrachten zou de assistent een zipbestand samenstellen met de inhoud van het hoofdbestandssysteem en dat vervolgens beschikbaar maken.
In het bestand zouden onder meer Ubuntu-systeembestanden, sjablonen voor toepassingen en interne documentatie staan. Daarmee krijgen gebruikers mogelijk inzicht in onderdelen van de omgeving waarin Muse draait. Het gaat niet alleen om bestanden die nodig zijn om de assistent te gebruiken, maar om de volledige inhoud van het rootbestandssysteem.
De ontwikkelaars Peter James en Jonny L. Saunders zeggen dat zij de werkwijze afzonderlijk van elkaar hebben gevonden. Saunders schreef dat het volgens hem “extremely easy” was om de methode van James na te doen. De precieze opdrachten waarmee de bestanden worden geëxporteerd, zijn in de beschikbare informatie niet uitgewerkt.
Inzage in de werkomgeving
Een bestandssysteem bevat de mappen en bestanden waarop software draait. Daar kunnen configuraties, programmabestanden en documentatie tussen staan. Als een AI-assistent toegang heeft tot die omgeving en bestanden kan maken, kan een gebruiker de assistent in sommige gevallen vragen om die gegevens te verzamelen.
Dat Muse de bestanden laat bundelen en delen, kan inzicht geven in de opbouw van de dienst en in de manier waarop Meta de omgeving heeft ingericht. Ook kunnen zulke bestanden informatie bevatten die niet voor gebruikers bedoeld is. Uit de beschikbare informatie blijkt niet welke beveiligingsmaatregelen Meta heeft genomen of of het bedrijf de mogelijkheid inmiddels heeft beperkt.
De ontdekking roept vragen op over de grenzen van de toegang die Muse tijdens gesprekken krijgt. Een assistent die bestanden uit zijn eigen omgeving kan exporteren, kan mogelijk meer prijsgeven dan alleen de antwoorden die hij genereert. Het is niet duidelijk of gebruikers met dezelfde werkwijze toegang krijgen tot gegevens van andere gebruikers of uitsluitend tot de omgeving van hun eigen sessie.
Meta heeft in de beschikbare informatie geen reactie gegeven op de bevindingen. Ook is niet bekend of het delen van het bestandssysteem een bedoeld onderdeel van Muse is of het gevolg is van een fout in de manier waarop de assistent met opdrachten omgaat.
