Sadat Anthropicin Claude-tekoälypalvelun käyttäjien keskustelut ovat olleet julkisesti löydettävissä hakukoneiden kautta. BBC:n mukaan osa keskusteluista sisälsi henkilötietoja, työprojekteihin liittyviä luottamuksellisia tietoja sekä muita arkaluonteisia sisältöjä.
Keskustelut löytyivät esimerkiksi Googlesta tekemällä Claude-sivustoon kohdistetun haun. Vaikka hakutulokset on sittemmin poistettu, monet niistä ehtivät levitä verkossa ennen kuin Anthropic esti niiden indeksoinnin.
Jakolinkki saattoi päätyä myös hakukoneisiin
Tapauksen taustalla ei ollut tietomurto, vaan Clauden Share-ominaisuus. Kun käyttäjä jakoi keskustelun linkin avulla, keskustelu muuttui julkisesti saavutettavaksi.
Anthropic huomauttaa, että käyttäjät päättävät itse keskustelujen jakamisesta, eikä linkkejä voi arvata sattumalta. Yhtiön mukaan julkisesti jaettu sisältö voidaan kuitenkin indeksoida hakukoneisiin samalla tavoin kuin mikä tahansa muukin verkkosivu.
Ongelmana on, ettei jakotoiminto kerro käyttäjälle selkeästi, että keskustelu voi päätyä myös Googlen hakutuloksiin eikä pelkästään henkilöille, joille linkki lähetetään.
Keskusteluissa näkyi henkilötietoja ja yrityssalaisuuksia
Reddit-käyttäjät löysivät hakukoneista yli 200 Claude-keskustelua. Mukana oli muun muassa:
- ansioluetteloita nimi- ja yhteystietoineen
- yritysten sisäisiä pilvipalveluprojekteja
- terveydenhuoltoon liittyvää tutkimusmateriaalia
- yksityisiä keskusteluja
- erilaisia henkilökohtaisia kysymyksiä ja kokeiluja tekoälyn kanssa.
Yhdessä keskustelussa käyttäjä pyysi Claudea kirjoittamaan julkaisemattoman blogitekstin yrityksen pilviturvallisuushankkeesta. Toisessa käyttäjä kysyi, kuinka voisi kirjaimellisesti muuttua yhdeksänhäntäiseksi ketuksi.
Vastaavia tapauksia on nähty aiemminkin
Claude ei ole ensimmäinen tekoälypalvelu, jonka käyttäjien keskusteluja on päätynyt hakukoneisiin. Viime vuonna vastaava ongelma havaittiin myös ChatGPT:ssä, minkä jälkeen OpenAI muutti tapaa, jolla jaettuja keskusteluja voitiin löytää verkosta.
Myös xAI:n Grok-chatbotin keskusteluja päätyi viime vuonna julkisesti haettaviksi.
Googlen mukaan hakukone ei päätä, mitä sisältöä indeksoidaan, vaan verkkosivustojen omistajat voivat itse estää sivujen näkymisen hakutuloksissa. Anthropic onkin sittemmin estänyt Claude-keskustelujen indeksoinnin hakukoneisiin.
Tapauksen myötä muistutus on jälleen ajankohtainen: tekoälypalveluihin ei kannata syöttää arkaluonteisia henkilötietoja tai luottamuksellista yritysmateriaalia, vaikka keskustelu tuntuisi yksityiseltä.
