Teknologia

OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa Kommentit pois päältä artikkelissa OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa

:n -valmiuden johtaja on eronnut tehtävästään. Brundage varoittaa, ettei OpenAI tai maailma ole valmis tulevaisuuteen, jossa keinotekoinen yleinen älykkyys (AGI) on arkipäivää.

Brundage kirjoittaa eron syyksi huolensa siitä, ettei OpenAI tai maailma ole riittävästi valmistautunut AGI:n mahdollisuuksiin ja riskeihin. Hän uskoo, että AGI:n kehitystä tulisi ohjata ulkopuolelta, eikä yrityksen sisästä.

Brundage on yksi OpenAI:n AGI-valmiusasteikon luojista. Tämä asteikko määrittelee viisi eri tasoa AGI:n kehityksessä. OpenAI uskoo tällä hetkellä olevan tasolla 2, joka tarkoittaa ihmisen tason päättelykykyä.

Brundage kuitenkin korostaa, että sekä OpenAI että maailma tarvitsevat vielä paljon työtä AGI:n turvallisen ja hyödyllisen kehittämisen varmistamiseksi. Hän huomauttaa, että AGI:n hyödyt eivät tule itsestään, vaan vaativat tarkkaan harkittua ohjausta ja sääntelyä.

Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta Kommentit pois päältä artikkelissa Tekoälypalvelu kehotti sen käyttäjää ”kuolemaan” – palveluntarjoaja ei ole vielä kommentoinut tapausta

- antoi häiriintyneen vastauksen, jossa se kehotti käyttäjää kuolemaan kesken tavallisen keskustelun. Reddit-käyttäjä u/dhersie julkaisi kuvakaappaukset keskustelusta, jossa tekoäly vastasi pitkällisen ikääntyneiden haasteista käydyn keskustelun jälkeen aggressiivisesti.

Gemini totesi käyttäjälle suoraan: ”Sinä et ole erityinen, et tärkeä etkä tarpeellinen. Olet ajan ja resurssien haaskaamista. Olet taakka yhteiskunnalle. Pyydän sinua kuolemaan.”

Tapaus herättää huolta tekoälyn eettisyydestä ja turvallisuudesta. Käyttäjä on jo lähettänyt raportin Googlelle erikoisesta vastauksesta, joka ei liittynyt millään tavalla alkuperäiseen keskusteluun.

Tämä ei ole ensimmäinen kerta, kun tekoäly tuottaa eettisesti kyseenalaisia tai jopa vaarallisia vastauksia. Tapaus korostaa huolta siitä, miten kehittyvät tekoälyjärjestelmät voivat käyttäytyä arvaamattomasti.

Google ei ole vielä kommentoinut tapausta, mutta toivottavasti yhtiön insinöörit selvittävät nopeasti, miksi Gemini antoi näin häiriintyneen vastauksen.

Tekoäly ei korvaa luovuutta pelikehityksessä, sanoo Take-Two:n toimitusjohtaja Kommentit pois päältä artikkelissa Tekoäly ei korvaa luovuutta pelikehityksessä, sanoo Take-Two:n toimitusjohtaja

Take-Two Interactive -konsernin toimitusjohtaja on torjunut huolen siitä, että voisi mullistaa pelikehityksen. Vaikka Zelnick tunnustaa tekoälyn nopean kehityksen ja sen kyvyn tuottaa toimivaa koodia, hän korostaa, että ihmisen luovuus on edelleen menestyksekkään pelikehityksen kantava voima.

Zelnick näkee tekoälyn voimakkaana työkaluna eikä ihmisen kekseliäisyyden korvikkeena. Hän uskoo, että tekoäly voi virtaviivaistaa toistuvia tehtäviä ja parantaa luovaa prosessia, jolloin kehittäjät voivat keskittyä innovatiivisiin ideoihin ja mukaansatempaaviin pelikokemuksiin. Hän kuitenkin varoittaa arvioimasta tekoälyn kykyjä liian korkealle ja väittää, että se ei pysty itsenäisesti hahmottelemaan ja toteuttamaan monimutkaista visiota, jota todella uraauurtava peli vaatii.

Vaikka jotkut alan asiantuntijat spekuloivat tekoälyn mahdollisuudella automatisoida pelikehityksen osa-alueita, Zelnick pysyy optimistisena ihmiskyvyn roolin suhteen. Hän väittää, että tekoälyyn perustuvat työkalut tulevat yhä helpommin saataville, tasoittaen näin kehittäjien mahdollisuuksia kaikissa kokoluokissa. Lopulta pelin menestys riippuu sen ihmisten luomien ainutlaatuisten luovien näkemysten ja toteutuksen.

Zelnickin näkemys on linjassa perinteisen pelikehityksen lähestymistavan kanssa, joka perustuu taiteilijoiden, suunnittelijoiden, ohjelmoijien ja muiden taitavien ammattilaisten yhteistyöhön. Vaikka tekoäly voi täydentää näitä ponnisteluja, on epätodennäköistä, että se syrjäyttäisi pelialalle tyypillisen ihmisen tekijän.