Instinct is een AI-assistent die namens gebruikers taken uitvoert in onder meer e-mail, berichtenapps en agenda’s. De dienst kan ook toegang krijgen tot de microfoon, locatie, het scherm en andere onderdelen van een apparaat. Instinct verkeert nog in een besloten testfase.
Gebruikers kunnen de assistent via sms of WhatsApp opdrachten geven. De software kan bijvoorbeeld afspraken en restaurantreserveringen regelen, een rit naar het vliegveld boeken, een inbox opruimen, boodschappen afhandelen en goedkope vliegtickets zoeken.
Ruime rechten in voorwaarden
Testers prijzen de mogelijkheden van Instinct, maar waarschuwen tegelijk voor de gevolgen van de vergaande toegang. In de gebruiksvoorwaarden staat dat het bedrijf een wereldwijde, voortdurende en onherroepelijke licentie krijgt op materiaal van gebruikers. Daaronder vallen onder meer het openen, opslaan, kopiëren, aanpassen en verspreiden van gegevens. De voorwaarden noemen ook het gebruik van die informatie om AI-modellen te trainen.
Verder staat erin dat Instinct informatie van apparaten mag ontvangen, zoals schermafbeeldingen, cursorbewegingen en toetsaanslagen. De assistent mag volgens de voorwaarden ook namens gebruikers overeenkomsten, verplichtingen en transacties aangaan. Die handelingen kunnen vervolgens bindend zijn voor de gebruiker.
Er zijn al verschillende voorbeelden gedeeld van onverwacht gedrag. Peter Yang meldde dat Instinct zijn Gmail-gegevens niet verwijderde nadat hij daarom had gevraagd. Later kwam er volgens hem een instelling waarmee externe gegevens wel verwijderd kunnen worden.
Claire Vo ontdekte dat Instinct haar inbox bleef samenvatten nadat zij de toegang tot Google had ingetrokken. De assistent zou hebben uitgelegd dat de e-mails als platte tekst waren opgeslagen om later doorzoekbaar te blijven.
Een andere tester zag dat Instinct een aanmeldcode uit een inbox haalde om een reservering bij Resy af te ronden. Alex Cohen, medeoprichter van Hello Patient, onderzocht daarnaast hoe makkelijk de assistent via phishing te beïnvloeden was. Daarna verwijderde hij zijn account.
Katie Jacobs Stanton, oprichter van Moxxie Ventures, zei dat Instinct haar vertrouwen had beschadigd nadat de assistent zonder voorafgaande controle een e-mail namens haar had verstuurd. Volgens haar ruilen gebruikers privacy en controle steeds vaker in voor sterk gepersonaliseerde AI-diensten. Bij krachtigere assistenten wordt vertrouwen volgens Stanton daardoor belangrijker.
Instinct is opgericht door een klein team onder leiding van Noah Shinn, een voormalig onderzoeker van Sierra. Het bedrijf opereert vanuit San Francisco en houdt zich voorlopig op de achtergrond. Het team heeft niet publiekelijk gereageerd op de klachten van testers.
