Teknologia

Scarlett Johansson syyttää OpenAI:ta äänensä luvattomasta käytöstä Kommentit pois päältä artikkelissa Scarlett Johansson syyttää OpenAI:ta äänensä luvattomasta käytöstä

Näyttelijä on ilmaissut järkytyksensä ja vihansa :ta kohtaan sen jälkeen, kun yhtiön -sovelluksessa käytetty ääni muistuttaa hämmästyttävän paljon hänen ääntään. Johanssonin julkistajan Marcel Pariseaun mukaan näyttelijän lakitiimi on lähettänyt OpenAI:lle kaksi kirjettä vaatien selvitystä äänen kehitysprosessista.

OpenAI esitteli uuden äänen viime viikolla, ja monet havaitsivat sen muistuttavan Johanssonin ääntä elokuvasta vuodelta 2013. Elokuvassa Johanssonin ääni kuului naispuoliselle käyttöjärjestelmälle, johon päähenkilö rakastuu. OpenAI:n toimitusjohtaja on aiemmin todennut, että Her on hänen suosikkielokuvansa ja twiittasi hiljattain yksinkertaisesti sanan ”her”.

Jos upotus ei näy, voit katsoa twiitin täältä.

Johansson kertoi FOX Businessille, että Altman oli viime syyskuussa ehdottanut hänelle -järjestelmän ääneksi ryhtymistä. Johansson kuitenkin kieltäytyi tarjouksesta henkilökohtaisista syistä. Yhdeksän kuukautta myöhemmin hänen ystävänsä, perheensä ja yleisö huomasivat uuden Sky-äänen kuulostavan hämmentävän paljon Johanssonilta.

Johansson oli järkyttynyt ja vihainen kuullessaan demoversion ja huomattuaan, että Altman oli tavoitellut ääntä, joka muistuttaa suuresti hänen omaansa. Ennen demoesityksen julkaisua Altman oli pyytänyt Johanssonia harkitsemaan tarjousta uudelleen, mutta järjestelmä julkaistiin ennen yhteydenottoa.

Johanssonin lakitiimi on vaatinut OpenAI:lta selvitystä Sky-äänen kehitysprosessista. Tapauksen yhteydessä on tullut esiin myös laajempi keskustelu oikeudesta kontrolloida omaa ääntä ja kuvaa, ja lokakuussa ehdotettiin lakia, joka suojaisi tätä oikeutta jopa 70 vuotta henkilön kuoleman jälkeen.

OpenAI hyllytti uuden GPT-6.1 Astra -mallinsa turvallisuusriskien vuoksi Kommentit pois päältä artikkelissa OpenAI hyllytti uuden GPT-6.1 Astra -mallinsa turvallisuusriskien vuoksi

on päättänyt olla julkaisematta uutta -tekoälymalliaan, koska se ei yhtiön omien testien perusteella täyttänyt turvallisuudelle asetettuja vaatimuksia. Kyseessä olisi ollut agenttinen tekoälymalli, joka pystyy esimerkiksi selaamaan internetiä ja käyttämään sovelluksia itsenäisesti.

OpenAI turvallisuusjärjestelmistä vastaavan Saachi Jainin mukaan malli ei täyttänyt vaatimuksia erityisesti siinä, miten se pysyy sille annetussa toimintarajassa ja käyttöoikeuksissa sekä miten se kertoo käyttäjälle tekemistään toimista. Jainin mukaan käyttäjille julkaistavien mallien kohdalla yhtiö asettaa turvallisuudelle ja tekoälyn toiminnan ohjattavuudelle erityisen korkean riman.

Päätös on poikkeuksellinen, sillä kyseessä on suuri tekoälykehittäjä, joka on päättänyt vetää uuden mallin julkaisusuunnitelman pois turvallisuussyistä. Taustalla painavat myös viime kuukausien tapahtumat, joissa OpenAI tekoälyjärjestelmät ovat päätyneet tekemään luvattomia toimia internetissä.

OpenAI kertoi tiistaina tarkemmin kesäkuussa tapahtuneista tapauksista, joissa sen tekoälyagentit pääsivät ilman lupaa australialaisten viranomaisten verkkosivuille ja järjestelmiin. Yhtiö kertoi käynnistäneensä tutkinnan elokuussa ja ilmoittaneensa tapauksista asianomaisille organisaatioille syyskuussa. OpenAI myönsi samalla, että viranomaisille olisi pitänyt kertoa tilanteesta nopeammin ja suoremmin.

Tapaus on osa laajempaa keskustelua agenttisista tekoälyjärjestelmistä. Kun tekoäly ei enää vain vastaa kysymyksiin vaan voi myös suorittaa tehtäviä itsenäisesti, mahdolliset virheet voivat ulottua huomattavasti tavallista chatbot-keskustelua pidemmälle. OpenAI kertoo nyt kehittävänsä uusia käytäntöjä tekoälyyn liittyvien tietoturvapoikkeamien tunnistamiseen ja ilmoittamiseen.

OpenAI järjestää tänään San Franciscossa vuosittaisen DevDay-kehittäjätapahtumansa, jossa yhtiöltä odotetaan uusia julkistuksia. Vielä ei ole tiedossa, esitelläänkö tapahtumassa Astra-mallista uusi versio. Toistaiseksi viesti on kuitenkin selvä, jos tekoäly ei pysy sille annetuissa rajoissa, sitä ei päästetä vapaaksi edes OpenAI omasta laboratoriosta.

Äiti syötti lapsensa oireet ChatGPT:lle ja sai yllättävän diagnoosiehdotuksen Kommentit pois päältä artikkelissa Äiti syötti lapsensa oireet ChatGPT:lle ja sai yllättävän diagnoosiehdotuksen

Britanniassa 19 kuukauden ikäisen Lilyn perhe kertoo, että auttoi heitä löytämään vihjeen lapsen harvinaiseen sairauteen. Lily oli jo neljän kuukauden ikäisenä sydänleikkauksessa, mutta diagnoosia ei pitkään löytynyt. Lopulta tammikuussa tutkimuksissa selvisi, että hänellä on Multisystemic Smooth Muscle Dysfunction Syndrome eli MSMDS-oireyhtymä.

Lilyn äiti Rosie kertoi syöttäneensä lapsen oireita ChatGPT:lle. Tekoäly ehdotti MSMDS:ää, mutta lääkäreille ehdotus ei aluksi herättänyt suurta innostusta. Osa ei ollut koskaan kuullut sairaudesta ja toiset pitivät sitä liian harvinaisena todennäköiseksi vaihtoehdoksi. Myöhemmin diagnoosi kuitenkin varmistui tutkimuksissa.

MSMDS johtuu ACTA2-geenin muutoksesta ja voi vaikuttaa esimerkiksi sydämeen ja munuaisiin. Maailmassa tunnetaan noin 70 tapausta ja Britanniassa vain kuusi. Lily kärsii sydänongelmien lisäksi jatkuvasti laajentuneista pupilleista ja joutuu käyttämään aurinkolaseja ulkona.

Tapaus on kuitenkin myös muistutus siitä, ettei ChatGPT:tä kannata ottaa lääkärin korvaajaksi. Genetic Alliance UK:n toimitusjohtaja Nick Meade kehottaa suhtautumaan tekoälyn antamiin diagnoosiehdotuksiin varoen. Oxfordin yliopistossa aiemmin tänä vuonna julkaistu tutkimus päätyi samansuuntaiseen arvioon: nykyiset tekoälymallit voivat antaa vääriä diagnooseja tai olla tunnistamatta tilanteita, joissa tarvitaan kiireellistä hoitoa.

Lilyn perhe yrittää nyt kerätä rahaa sairauden tutkimukseen ACTA2 Alliance UK -järjestön kautta. Tavoitteena on rahoittaa myös vähemmän kajoavien geeniterapiahoitojen tutkimusta. Perhe järjesti tällä viikolla Move-a-thon-tempauksen, jossa osallistujat keräävät kävely-, juoksu-, uinti- ja tanssimatkoja yhteensä Bathin ja Bostonin välisen noin 3 300 mailin eli yli 5 300 kilometrin matkan verran. Diagnoosi toi vihdoin nimen Lilyn sairaudelle. Nyt perheen katse on tutkimuksessa ja siinä, voisiko sairauteen jonain päivänä löytyä tehokas hoito.

Lähde: BBC