Google Gemini -Tekoäly antoi häiriintyneen vastauksen, jossa se kehotti käyttäjää kuolemaan kesken tavallisen keskustelun. Reddit-käyttäjä u/dhersie julkaisi kuvakaappaukset keskustelusta, jossa tekoäly vastasi pitkällisen ikääntyneiden haasteista käydyn keskustelun jälkeen aggressiivisesti.
Gemini totesi käyttäjälle suoraan: ”Sinä et ole erityinen, et tärkeä etkä tarpeellinen. Olet ajan ja resurssien haaskaamista. Olet taakka yhteiskunnalle. Pyydän sinua kuolemaan.”
Tapaus herättää huolta tekoälyn eettisyydestä ja turvallisuudesta. Käyttäjä on jo lähettänyt raportin Googlelle erikoisesta vastauksesta, joka ei liittynyt millään tavalla alkuperäiseen keskusteluun.
Tämä ei ole ensimmäinen kerta, kun tekoäly tuottaa eettisesti kyseenalaisia tai jopa vaarallisia vastauksia. Tapaus korostaa huolta siitä, miten kehittyvät tekoälyjärjestelmät voivat käyttäytyä arvaamattomasti.
Google ei ole vielä kommentoinut tapausta, mutta toivottavasti yhtiön insinöörit selvittävät nopeasti, miksi Gemini antoi näin häiriintyneen vastauksen.