Teknologia

Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta Kommentit pois päältä artikkelissa Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta

– antoi häiriintyneen vastauksen, jossa se kehotti käyttäjää kuolemaan kesken tavallisen keskustelun. Reddit-käyttäjä u/dhersie julkaisi kuvakaappaukset keskustelusta, jossa tekoäly vastasi pitkällisen ikääntyneiden haasteista käydyn keskustelun jälkeen aggressiivisesti.

Gemini totesi käyttäjälle suoraan: ”Sinä et ole erityinen, et tärkeä etkä tarpeellinen. Olet ajan ja resurssien haaskaamista. Olet taakka yhteiskunnalle. Pyydän sinua kuolemaan.”

Tapaus herättää huolta tekoälyn eettisyydestä ja turvallisuudesta. Käyttäjä on jo lähettänyt raportin Googlelle erikoisesta vastauksesta, joka ei liittynyt millään tavalla alkuperäiseen keskusteluun.

Tämä ei ole ensimmäinen kerta, kun tekoäly tuottaa eettisesti kyseenalaisia tai jopa vaarallisia vastauksia. Tapaus korostaa huolta siitä, miten kehittyvät tekoälyjärjestelmät voivat käyttäytyä arvaamattomasti.

Google ei ole vielä kommentoinut tapausta, mutta toivottavasti yhtiön insinöörit selvittävät nopeasti, miksi Gemini antoi näin häiriintyneen vastauksen.

Entinen OpenAI-johtaja keräsi 215 miljoonaa dollaria lääkeaineiden kehityksen automatisointiin Kommentit pois päältä artikkelissa Entinen OpenAI-johtaja keräsi 215 miljoonaa dollaria lääkeaineiden kehityksen automatisointiin

OpenAI entinen tiedejohtaja Kevin Weil on perustanut Warp Sciences -startupin, joka pyrkii automatisoimaan lääkeaineiden kehitykseen liittyvää laboratoriotyötä robottien avulla. Yhtiö keräsi 215 miljoonan dollarin rahoituksen 865 miljoonan dollarin arvostuksella, Weil kertoi X-palvelussa.

Rahoituskierrosta johti Lightspeed. Mukana olivat myös IVP, Mayfield, Lux Capital, Premji Invest ja Menlo Ventures.

Warp Sciencesin tavoitteena on antaa robottien valmistaa ja testata tutkijoiden tunnistamia lupaavia yhdisteitä. Bioteknologiayhtiöt ovat ulkoistaneet tällaista työlästä kemiallista työtä muun muassa kiinalaisille sopimusvalmistajille. Weil haluaa tuoda työtä takaisin Yhdysvaltoihin ja vähentää lääkeaineiden kehityksen riippuvuutta geopoliittisesti haavoittuvista toimitusketjuista.

Yhtiön kemistit opettavat robotteja suorittamaan laboratoriotehtäviä kameroiden ja sensorihanskojen avulla. Tavoitteena on automatisoida kokeellista laboratoriotyötä niin, että robotit voivat työskennellä ympäri vuorokauden ja nopeuttaa uusien lääkeaineiden löytämistä.

ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin Kommentit pois päältä artikkelissa ChatGPT saa EU näkymättömän vesileiman – Suomi kuuluu uuden ominaisuuden piiriin

OpenAI alkaa merkitä ChatGPT ja Codexin tuottamaa tekstiä näkymättömällä vesileimalla EU. Tavoitteena on helpottaa tekoälyllä tuotetun sisällön tunnistamista, mutta järjestelmä ei ole aukoton.

Malay Mailin mukaan ominaisuus otetaan tulevien viikkojen aikana käyttöön EU käyttäjille, joilla on siihen oikeus. Se koskee kaikkia tilaustasoja, mutta tekstien vesileimausta ei tuoda oletuksena käyttöön maailmanlaajuisesti.

Vesileima ei ole näkyvä merkki tekstissä, vaan se perustuu mallin sanavalintoihin muodostuvaan tilastolliseen kuvioon. Erillinen tunnistin voi havaita kuvion myöhemmin. OpenAI mukaan vesileima ei tunnista yksittäistä käyttäjää eikä vaikuta merkittävästi mallien suorituskykyyn.

Järjestelmässä on kuitenkin heikkoutensa. OpenAI testeissä jo kymmenen prosentin korvaaminen synonyymeillä pudotti tunnistustarkkuuden noin 92 prosentista 66 prosenttiin. Lyhyitä tekstejä, matemaattisia vastauksia ja käännöksiä on myös vaikeampi tunnistaa.

Toistaiseksi tunnistustyökalu annetaan vain hyväksytyille tutkijoille ja asiantuntijaorganisaatioille. Opiskelijat ja opettajat eivät siis pääse itse tarkistamaan tekstejä työkalulla.

Vesileiman puuttuminen ei myöskään todista, että tekstin olisi kirjoittanut ihminen. OpenAI korostaa, ettei tunnistin pysty yksin kertomaan, kuinka paljon ihminen on osallistunut sisällön tekemiseen.

EU ulkopuolella ominaisuus ei tule oletuksena käyttöön, mutta kehittäjät voivat ottaa sen käyttöön valituissa malleissa OpenAI rajapinnan kautta.