Teknologia

Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta Kommentit pois päältä artikkelissa Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta

– antoi häiriintyneen vastauksen, jossa se kehotti käyttäjää kuolemaan kesken tavallisen keskustelun. Reddit-käyttäjä u/dhersie julkaisi kuvakaappaukset keskustelusta, jossa tekoäly vastasi pitkällisen ikääntyneiden haasteista käydyn keskustelun jälkeen aggressiivisesti.

Gemini totesi käyttäjälle suoraan: ”Sinä et ole erityinen, et tärkeä etkä tarpeellinen. Olet ajan ja resurssien haaskaamista. Olet taakka yhteiskunnalle. Pyydän sinua kuolemaan.”

Tapaus herättää huolta tekoälyn eettisyydestä ja turvallisuudesta. Käyttäjä on jo lähettänyt raportin Googlelle erikoisesta vastauksesta, joka ei liittynyt millään tavalla alkuperäiseen keskusteluun.

Tämä ei ole ensimmäinen kerta, kun tekoäly tuottaa eettisesti kyseenalaisia tai jopa vaarallisia vastauksia. Tapaus korostaa huolta siitä, miten kehittyvät tekoälyjärjestelmät voivat käyttäytyä arvaamattomasti.

Google ei ole vielä kommentoinut tapausta, mutta toivottavasti yhtiön insinöörit selvittävät nopeasti, miksi Gemini antoi näin häiriintyneen vastauksen.

Tekoälyn piti voittaa ihmiset puolelleen – nyt luottamus onkin laskussa Kommentit pois päältä artikkelissa Tekoälyn piti voittaa ihmiset puolelleen – nyt luottamus onkin laskussa

kehittyy vauhdilla, mutta ihmisten innostus ei näytä pysyvän perässä. Tuoreen Pew Researchin kyselyn mukaan esimerkiksi jo 52 prosenttia amerikkalaisista on tekoälyn lisääntymisestä arjessa enemmän huolissaan kuin innostunut. Vuonna 2021 vastaava luku oli 37 prosenttia.

Myös muissa kyselyissä tulokset ovat tekoälyn kannalta karuja. Yli 70 prosenttia amerikkalaisista kokee tekoälyn kehittyvän liian nopeasti, ja nuorten aikuisten luottamus tekoälyalan johtajiin on niin ikään heikko.

Ongelma saattaa olla siinä, että tekoälyn luvatut hyödyt eivät näy tavallisen ihmisen arjessa. Sen sijaan vastaan tulee tekoälyllä höystettyjä hakukoneita, sähköposteja ja televisioita – sekä jatkuvaa puhetta työpaikkojen katoamisesta, tekijänoikeuksista ja tekoälyn väärinkäytöksistä.

Samaan aikaan nuoret ovat alkaneet kiinnostua vanhemmasta teknologiasta, kuten dumbphoneista, pokkarikameroista, kasettisoittimista ja CD-soittimista.

Myös tekoälyalan sisältä myönnetään ongelma. Airbnb:n toimitusjohtaja Brian Chesky sanoo, että alan pitäisi tehdä tuotteita, joista tavalliset ihmiset oikeasti pitävät. Anthropicin toimitusjohtaja Dario Amodei puolestaan kutsuu tilannetta luottamuskriisiksi.

Tekoälyn piti tehdä elämästä parempaa. Nyt alan pitäisi ilmeisesti ensin todistaa, että se oikeasti tekee niin.

Mies kertoi ChatGPT:lle aikovansa tappaa exänsä – OpenAI ilmoitti asiasta FBI:lle Kommentit pois päältä artikkelissa Mies kertoi ChatGPT:lle aikovansa tappaa exänsä – OpenAI ilmoitti asiasta FBI:lle

Floridalainen 25-vuotias Darren Zhou kertoi ChatGPT-keskusteluissa yksityiskohtaisesti suunnitelmistaan raiskata ja tappaa entinen tyttöystävänsä. OpenAI ilmoitti keskusteluista FBI:lle, joka välitti tiedot myöhemmin Palm Beach Countyn sheriffille.

Zhou oli eronnut 21-vuotiaasta tyttöystävästään, mutta jatkoi tämän häirintää puhelimitse, viesteillä ja sosiaalisessa mediassa. Tutkijoiden mukaan ChatGPT:lle kirjoitetut viestit muuttuivat nopeasti uhkauksiksi ja väkivallan suunnitteluksi. Yhdessä viestissä Zhou kirjoitti: ”I’m gonna kill her by the end of this month”.

FBI toimitti poliisille kahden kuukauden ajalta Zhou’n ChatGPT-keskustelut. Tutkijan mukaan kyse ei ollut yksittäisistä tunnekuohuista, vaan viesteissä näkyi väkivallan harjoittelua ja suunnittelua. Tässä vaiheessa myös ex-tyttöystävän perhe oli noussut Zhou’n uhkausten kohteeksi.

OpenAI:n käytäntöjen mukaan yhtiön pieni ryhmä voi tarkastella keskusteluja, jos käyttäjän epäillään suunnittelevan vahingoittavansa muita. Vakavissa tapauksissa tietoja voidaan ilmoittaa viranomaisille.

Poliisi pidätti Zhou’n toukokuussa. Hän myönsi elokuussa syyllisyytensä törkeään vainoamiseen, tappouhkaukseen sekä puhelimen lainvastaiseen käyttöön. Mies tuomittiin kahdeksan vuoden valvontaan ilman varsinaista vankeusrangaistusta tai felony-tuomiota.

Tuomari huomioi päätöksessään muun muassa Zhou’n aiemman rikosrekisterin puuttumisen sekä sen, että ex-tyttöystävä hyväksyi sovinnon. Zhou’n asianajajan mukaan kyse oli vakavasta mielenterveyteen liittyneestä kriisistä, ei pysyvästä väkivaltaisuudesta.

Lähde: Palm Beach Post