Teknologia

Väite: ChatGPT vuotaa käyttäjiensä yksityisiä keskusteluja Kommentit pois päältä artikkelissa Väite: ChatGPT vuotaa käyttäjiensä yksityisiä keskusteluja

Kun yhä useammat yritykset ottavat käyttöön tekoälyominaisuuksia liiketoiminnassaan, työntekijät ovat yhä huolissaan tekoälyn uhasta työpaikkojensa korvaajana. Fortune-lehti raportoi tiistaina, että eräs Adoben johtaja ei kuitenkaan ole aivan vakuuttunut tästä uhasta, vertaillen tekoälyn kehitystä kameran keksimiseen.

OpenAI:n kehittämä suuri kielimalli, vuotaa käyttäjiensä yksityisiä keskusteluja, väittää eräs Ars Technica -lukija.

Nimettömänä pysyvä lukija väittää saaneensa keskusteluja muilta käyttäjiltä, mukaan lukien kirjautumistunnukset, julkaisemattomat tutkielmat ja PHP-skriptit.

Lukija kertoo huomanneensa vuotaneet keskustelut maanantaiaamuna käytettyään ChatGPT:tä epäsuoraan kysymykseen. Keskustelut näkyivät heidän chat-historiassaan, vaikka he eivät olleet aloittaneet niitä. Lukija väittää myös, että keskustelut olivat eri vuosilta, mikä viittaa siihen, että vuoto on jatkunut jo jonkin aikaa.

OpenAI ei ole vielä kommentoinut syytöksiä.

Viimeisin vuoto herättää huolta ChatGPT:n käyttäjien yksityisyydestä. Jos -chatbot pystyy vuotamaan yksityisiä keskusteluja, on mahdollista, että se voisi myös altistaa muita herkkiä tietoja, kuten taloudellisia tietoja tai henkilötunnuksia.

ChatGPT:n käyttäjien tulisi olla tietoisia mahdollisuudesta, että yksityiset keskustelut voivat vuotaa. Heidän tulisi välttää jakamasta mitään herkkää tietoa tekoäly-chatbotin kanssa ja olla varovaisia siitä, mitä he pyytävät sen generoimaan.

ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin Kommentit pois päältä artikkelissa ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin

OpenAI alkaa merkitä ja Codexin tuottamaa tekstiä näkymättömällä vesileimalla EU. Tavoitteena on helpottaa tekoälyllä tuotetun sisällön tunnistamista, mutta järjestelmä ei ole aukoton.

Malay Mailin mukaan ominaisuus otetaan tulevien viikkojen aikana käyttöön EU käyttäjille, joilla on siihen oikeus. Se koskee kaikkia tilaustasoja, mutta tekstien vesileimausta ei tuoda oletuksena käyttöön maailmanlaajuisesti.

Vesileima ei ole näkyvä merkki tekstissä, vaan se perustuu mallin sanavalintoihin muodostuvaan tilastolliseen kuvioon. Erillinen tunnistin voi havaita kuvion myöhemmin. OpenAI mukaan vesileima ei tunnista yksittäistä käyttäjää eikä vaikuta merkittävästi mallien suorituskykyyn.

Järjestelmässä on kuitenkin heikkoutensa. OpenAI testeissä jo kymmenen prosentin korvaaminen synonyymeillä pudotti tunnistustarkkuuden noin 92 prosentista 66 prosenttiin. Lyhyitä tekstejä, matemaattisia vastauksia ja käännöksiä on myös vaikeampi tunnistaa.

Toistaiseksi tunnistustyökalu annetaan vain hyväksytyille tutkijoille ja asiantuntijaorganisaatioille. Opiskelijat ja opettajat eivät siis pääse itse tarkistamaan tekstejä työkalulla.

Vesileiman puuttuminen ei myöskään todista, että tekstin olisi kirjoittanut ihminen. OpenAI korostaa, ettei tunnistin pysty yksin kertomaan, kuinka paljon ihminen on osallistunut sisällön tekemiseen.

EU ulkopuolella ominaisuus ei tule oletuksena käyttöön, mutta kehittäjät voivat ottaa sen käyttöön valituissa malleissa OpenAI rajapinnan kautta.

Äiti syötti lapsensa oireet ChatGPT:lle ja sai yllättävän diagnoosiehdotuksen Kommentit pois päältä artikkelissa Äiti syötti lapsensa oireet ChatGPT:lle ja sai yllättävän diagnoosiehdotuksen

Britanniassa 19 kuukauden ikäisen Lilyn perhe kertoo, että auttoi heitä löytämään vihjeen lapsen harvinaiseen sairauteen. Lily oli jo neljän kuukauden ikäisenä sydänleikkauksessa, mutta diagnoosia ei pitkään löytynyt. Lopulta tammikuussa tutkimuksissa selvisi, että hänellä on Multisystemic Smooth Muscle Dysfunction Syndrome eli MSMDS-oireyhtymä.

Lilyn äiti Rosie kertoi syöttäneensä lapsen oireita ChatGPT:lle. ehdotti MSMDS:ää, mutta lääkäreille ehdotus ei aluksi herättänyt suurta innostusta. Osa ei ollut koskaan kuullut sairaudesta ja toiset pitivät sitä liian harvinaisena todennäköiseksi vaihtoehdoksi. Myöhemmin diagnoosi kuitenkin varmistui tutkimuksissa.

MSMDS johtuu ACTA2-geenin muutoksesta ja voi vaikuttaa esimerkiksi sydämeen ja munuaisiin. Maailmassa tunnetaan noin 70 tapausta ja Britanniassa vain kuusi. Lily kärsii sydänongelmien lisäksi jatkuvasti laajentuneista pupilleista ja joutuu käyttämään aurinkolaseja ulkona.

Tapaus on kuitenkin myös muistutus siitä, ettei ChatGPT:tä kannata ottaa lääkärin korvaajaksi. Genetic Alliance UK:n toimitusjohtaja Nick Meade kehottaa suhtautumaan tekoälyn antamiin diagnoosiehdotuksiin varoen. Oxfordin yliopistossa aiemmin tänä vuonna julkaistu tutkimus päätyi samansuuntaiseen arvioon: nykyiset tekoälymallit voivat antaa vääriä diagnooseja tai olla tunnistamatta tilanteita, joissa tarvitaan kiireellistä hoitoa.

Lilyn perhe yrittää nyt kerätä rahaa sairauden tutkimukseen ACTA2 Alliance UK -järjestön kautta. Tavoitteena on rahoittaa myös vähemmän kajoavien geeniterapiahoitojen tutkimusta. Perhe järjesti tällä viikolla Move-a-thon-tempauksen, jossa osallistujat keräävät kävely-, juoksu-, uinti- ja tanssimatkoja yhteensä Bathin ja Bostonin välisen noin 3 300 mailin eli yli 5 300 kilometrin matkan verran. Diagnoosi toi vihdoin nimen Lilyn sairaudelle. Nyt perheen katse on tutkimuksessa ja siinä, voisiko sairauteen jonain päivänä löytyä tehokas hoito.

Lähde: BBC