Teknologia

Tekoäly-yritys OpenAI on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta Kommentit pois päältä artikkelissa Tekoäly-yritys OpenAI on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta

-yritys on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta. Raportissa todetaan, että mallin riskitaso on ”keskitasoinen”.

OpenAI on joutunut viime aikoina kovaan kritiikkiin turvallisuuskulttuurinsa suhteen. Yhtiö on kuitenkin pyrkinyt lisäämään avoimuutta julkaisemalla raportteja mallien arvioinneista. :n kohdalla yhtiö on käyttänyt ulkopuolisia turvallisuustestaajia, jotka ovat analysoineet mallin mahdollisia riskialttiuksia, kuten kykyä luoda vääriä ääniä, luoda seksuaalis- ja väkivaltaista sisältöä tai kopioida tekijänoikeudella suojattua ääntä.

Vaikka GPT-4o:n kykyä manipuloida lukijaa on pidetty keskimääräistä parempana, ei malli ole kokonaisuudessaan vakuuttavampi kuin ihmiesen kirjoittama teksti. OpenAI korostaa, että yhtiö on testannut mallia erilaisissa tosielämän skenaarioissa, jotta väärinkäytön riskiä voitaisiin vähentää.

Huolimatta ulkopuolisten asiantuntijoiden osallistumisesta arviointiin, OpenAI:n oma arviointiprosessi on edelleen keskeisessä roolissa. Kaliforniassa on parhaillaan vireillä laki, joka asettaisi tiukempia vaatimuksia tekoälymalleille ja niiden turvallisuustesteille.

Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta Kommentit pois päältä artikkelissa Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta

- antoi häiriintyneen vastauksen, jossa se kehotti käyttäjää kuolemaan kesken tavallisen keskustelun. Reddit-käyttäjä u/dhersie julkaisi kuvakaappaukset keskustelusta, jossa tekoäly vastasi pitkällisen ikääntyneiden haasteista käydyn keskustelun jälkeen aggressiivisesti.

Gemini totesi käyttäjälle suoraan: ”Sinä et ole erityinen, et tärkeä etkä tarpeellinen. Olet ajan ja resurssien haaskaamista. Olet taakka yhteiskunnalle. Pyydän sinua kuolemaan.”

Tapaus herättää huolta tekoälyn eettisyydestä ja turvallisuudesta. Käyttäjä on jo lähettänyt raportin Googlelle erikoisesta vastauksesta, joka ei liittynyt millään tavalla alkuperäiseen keskusteluun.

Tämä ei ole ensimmäinen kerta, kun tekoäly tuottaa eettisesti kyseenalaisia tai jopa vaarallisia vastauksia. Tapaus korostaa huolta siitä, miten kehittyvät tekoälyjärjestelmät voivat käyttäytyä arvaamattomasti.

Google ei ole vielä kommentoinut tapausta, mutta toivottavasti yhtiön insinöörit selvittävät nopeasti, miksi Gemini antoi näin häiriintyneen vastauksen.

Tekoäly ei korvaa luovuutta pelikehityksessä, sanoo Take-Two:n toimitusjohtaja Kommentit pois päältä artikkelissa Tekoäly ei korvaa luovuutta pelikehityksessä, sanoo Take-Two:n toimitusjohtaja

Take-Two Interactive -konsernin toimitusjohtaja on torjunut huolen siitä, että voisi mullistaa pelikehityksen. Vaikka Zelnick tunnustaa tekoälyn nopean kehityksen ja sen kyvyn tuottaa toimivaa koodia, hän korostaa, että ihmisen luovuus on edelleen menestyksekkään pelikehityksen kantava voima.

Zelnick näkee tekoälyn voimakkaana työkaluna eikä ihmisen kekseliäisyyden korvikkeena. Hän uskoo, että tekoäly voi virtaviivaistaa toistuvia tehtäviä ja parantaa luovaa prosessia, jolloin kehittäjät voivat keskittyä innovatiivisiin ideoihin ja mukaansatempaaviin pelikokemuksiin. Hän kuitenkin varoittaa arvioimasta tekoälyn kykyjä liian korkealle ja väittää, että se ei pysty itsenäisesti hahmottelemaan ja toteuttamaan monimutkaista visiota, jota todella uraauurtava peli vaatii.

Vaikka jotkut alan asiantuntijat spekuloivat tekoälyn mahdollisuudella automatisoida pelikehityksen osa-alueita, Zelnick pysyy optimistisena ihmiskyvyn roolin suhteen. Hän väittää, että tekoälyyn perustuvat työkalut tulevat yhä helpommin saataville, tasoittaen näin kehittäjien mahdollisuuksia kaikissa kokoluokissa. Lopulta pelin menestys riippuu sen ihmisten luomien ainutlaatuisten luovien näkemysten ja toteutuksen.

Zelnickin näkemys on linjassa perinteisen pelikehityksen lähestymistavan kanssa, joka perustuu taiteilijoiden, suunnittelijoiden, ohjelmoijien ja muiden taitavien ammattilaisten yhteistyöhön. Vaikka tekoäly voi täydentää näitä ponnisteluja, on epätodennäköistä, että se syrjäyttäisi pelialalle tyypillisen ihmisen tekijän.