Teknologia

Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta Kommentit pois päältä artikkelissa Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta

– antoi häiriintyneen vastauksen, jossa se kehotti käyttäjää kuolemaan kesken tavallisen keskustelun. Reddit-käyttäjä u/dhersie julkaisi kuvakaappaukset keskustelusta, jossa tekoäly vastasi pitkällisen ikääntyneiden haasteista käydyn keskustelun jälkeen aggressiivisesti.

Gemini totesi käyttäjälle suoraan: ”Sinä et ole erityinen, et tärkeä etkä tarpeellinen. Olet ajan ja resurssien haaskaamista. Olet taakka yhteiskunnalle. Pyydän sinua kuolemaan.”

Tapaus herättää huolta tekoälyn eettisyydestä ja turvallisuudesta. Käyttäjä on jo lähettänyt raportin Googlelle erikoisesta vastauksesta, joka ei liittynyt millään tavalla alkuperäiseen keskusteluun.

Tämä ei ole ensimmäinen kerta, kun tekoäly tuottaa eettisesti kyseenalaisia tai jopa vaarallisia vastauksia. Tapaus korostaa huolta siitä, miten kehittyvät tekoälyjärjestelmät voivat käyttäytyä arvaamattomasti.

Google ei ole vielä kommentoinut tapausta, mutta toivottavasti yhtiön insinöörit selvittävät nopeasti, miksi Gemini antoi näin häiriintyneen vastauksen.

ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin Kommentit pois päältä artikkelissa ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin

OpenAI alkaa merkitä ChatGPT ja Codexin tuottamaa tekstiä näkymättömällä vesileimalla EU. Tavoitteena on helpottaa tekoälyllä tuotetun sisällön tunnistamista, mutta järjestelmä ei ole aukoton.

Malay Mailin mukaan ominaisuus otetaan tulevien viikkojen aikana käyttöön EU käyttäjille, joilla on siihen oikeus. Se koskee kaikkia tilaustasoja, mutta tekstien vesileimausta ei tuoda oletuksena käyttöön maailmanlaajuisesti.

Vesileima ei ole näkyvä merkki tekstissä, vaan se perustuu mallin sanavalintoihin muodostuvaan tilastolliseen kuvioon. Erillinen tunnistin voi havaita kuvion myöhemmin. OpenAI mukaan vesileima ei tunnista yksittäistä käyttäjää eikä vaikuta merkittävästi mallien suorituskykyyn.

Järjestelmässä on kuitenkin heikkoutensa. OpenAI testeissä jo kymmenen prosentin korvaaminen synonyymeillä pudotti tunnistustarkkuuden noin 92 prosentista 66 prosenttiin. Lyhyitä tekstejä, matemaattisia vastauksia ja käännöksiä on myös vaikeampi tunnistaa.

Toistaiseksi tunnistustyökalu annetaan vain hyväksytyille tutkijoille ja asiantuntijaorganisaatioille. Opiskelijat ja opettajat eivät siis pääse itse tarkistamaan tekstejä työkalulla.

Vesileiman puuttuminen ei myöskään todista, että tekstin olisi kirjoittanut ihminen. OpenAI korostaa, ettei tunnistin pysty yksin kertomaan, kuinka paljon ihminen on osallistunut sisällön tekemiseen.

EU ulkopuolella ominaisuus ei tule oletuksena käyttöön, mutta kehittäjät voivat ottaa sen käyttöön valituissa malleissa OpenAI rajapinnan kautta.

Claude tunkeutuu Google Docsiin, Sheetsiin ja Slidesiin Kommentit pois päältä artikkelissa Claude tunkeutuu Google Docsiin, Sheetsiin ja Slidesiin

Anthropicin – laajentaa yhteistyötään Googlen kanssa. Claude for Workspace -lisäosa tuo tekoälyn suoraan Google Docsiin, Sheetsiin ja Slidesiin sivupalkin muodossa. Ominaisuus on nyt julkisessa betatestissä maksaville Claude-käyttäjille.

Google Docsissa Claude voi esimerkiksi korjata kirjoitusvirheitä, muokata tekstin tyyliä tai kirjoittaa kappaleita uudelleen ilman, että dokumentin nykyinen muotoilu hajoaa matkan varrella. Sheetsissä tekoäly osaa puolestaan auttaa kaavojen ja taulukoiden tekemisessä sekä hyödyntää tiedoston sisältöä uuden materiaalin rakentamiseen.

Slides-käyttäjille Claude voi luoda uusia dioja olemassa olevien teemojen ja asettelujen pohjalta sekä huomauttaa kohdista, jotka saattavat kaivata päivitystä. Mukana on myös ”kysy ennen muokkausta” -tila, jossa käyttäjä voi tarkistaa ehdotetut muutokset ennen kuin Claude ryhtyy tekemään niitä.

Google tarjoaa omissa Workspace-sovelluksissaan jo vastaavia -toimintoja, joten Claude ei varsinaisesti tuo täysin uudenlaista temppua Google-dokumentteihin. Idea onkin ennen kaikkea siinä, että Claudea käyttäville tarjotaan mahdollisuus pysyä tutussa tekoälyssä myös Googlen palveluiden sisällä.

Lisäksi Claudeen on tuotu uudet yhdistimet Docsille, Sheetsille ja Slidesille. Niiden avulla Google Workspace -tiedostoja voi muokata suoraan Clauden keskustelussa liittämällä tiedoston linkin chattiin. Beta on saatavilla kaikille maksullisten Claude-tilausten käyttäjille Google Workspace Marketplacen kautta.

Lähde: 9to6Google