Teknologia

OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa Kommentit pois päältä artikkelissa OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa

:n -valmiuden johtaja on eronnut tehtävästään. Brundage varoittaa, ettei OpenAI tai maailma ole valmis tulevaisuuteen, jossa keinotekoinen yleinen älykkyys (AGI) on arkipäivää.

Brundage kirjoittaa eron syyksi huolensa siitä, ettei OpenAI tai maailma ole riittävästi valmistautunut AGI:n mahdollisuuksiin ja riskeihin. Hän uskoo, että AGI:n kehitystä tulisi ohjata ulkopuolelta, eikä yrityksen sisästä.

Brundage on yksi OpenAI:n AGI-valmiusasteikon luojista. Tämä asteikko määrittelee viisi eri tasoa AGI:n kehityksessä. OpenAI uskoo tällä hetkellä olevan tasolla 2, joka tarkoittaa ihmisen tason päättelykykyä.

Brundage kuitenkin korostaa, että sekä OpenAI että maailma tarvitsevat vielä paljon työtä AGI:n turvallisen ja hyödyllisen kehittämisen varmistamiseksi. Hän huomauttaa, että AGI:n hyödyt eivät tule itsestään, vaan vaativat tarkkaan harkittua ohjausta ja sääntelyä.

Claude alkoi estää pelien kopiointia – rajoitukset haittaavat myös tavallista pelikehitystä Kommentit pois päältä artikkelissa Claude alkoi estää pelien kopiointia – rajoitukset haittaavat myös tavallista pelikehitystä

Anthropicin – on alkanut kieltäytyä joidenkin olemassa olevien videopelien uudelleenluontiin liittyvien pyyntöjen toteuttamisesta. Tom’s Hardwaren mukaan käyttäjät ovat raportoineet samalla myös ongelmista tavallisissa pelinkehitystehtävissä ja ohjelmistojen takaisinmallinnuksessa.

Claude Codeen ja Opus 5.5 -malliin lisätty ohje pyrkii estämään yksittäisen olemassa olevan pelin jäljittelyn, vaikka kopio julkaistaisiin toisella nimellä. Ohjeen tarkoituksena ei ole kieltää alkuperäisten pelien tai samaan lajityyppiin kuuluvien uusien pelien kehittämistä.

Myös omien pelien kehittäjät kertovat ongelmista

Tom’s Hardware kertoo Claude Coden GitHubiin ilmestyneistä ilmoituksista, joissa tekoäly on keskeyttänyt kehitystyön tai kieltäytynyt auttamasta pelimekaniikan toteutuksessa. Käyttäjien mukaan ongelmia on ilmennyt myös esimerkiksi omien pelien huijauksenestojärjestelmien kehittämisessä ja tietoturvatarkastuksissa.

Erillisten käyttäjäraporttien mukaan Claude on kieltäytynyt myös joistakin yleisistä takaisinmallinnustehtävistä. Ilmoitukset eivät kuitenkaan osoita, että kaikki tällainen työ olisi estetty, eikä ole varmistettu, johtuvatko peli- ja tietoturvatehtävien rajoitukset samasta muutoksesta.

Anthropic vahvisti pelien kopiointia koskevan ohjeen

PC Gamerin mukaan Anthropicin tekniseen henkilöstöön kuuluva Addy Osmani vahvisti, että Claude Codeen lisättiin Opus 5.5 -mallia koskeva ohje, jonka tarkoitus on ohjata tekoälyä pois toisten kehittäjien tiettyjen pelien kopioinnista. Osmani korosti, että alkuperäisten pelien ja käyttäjän omiin suunnitelmiin perustuvien projektien pitäisi edelleen toimia.

Osmani kehotti kehittäjiä ilmoittamaan tapauksista, joissa Claude torjuu käyttäjän omaan peliin liittyvän tehtävän. Tämä viittaa siihen, että aikoo vielä säätää rajoituksen toimintaa palautteen perusteella.

Taustalla on pelialalla kasvanut huoli tekoälyn avulla nopeasti tuotetuista pelikopioista. Rajoitusten käytännön vaikutukset ovat kuitenkin herättäneet kysymyksiä siitä, miten järjestelmä erottaa luvattoman kopioinnin laillisesta ohjelmistokehityksestä.

Lähteet: Tom’s Hardware

OpenAI-pomo Sam Altman kritisoi tekoälyn pyörittämistä omalla tietokoneella – RAM-muisti tehokkaampaan käyttöön pilvessä Kommentit pois päältä artikkelissa OpenAI-pomo Sam Altman kritisoi tekoälyn pyörittämistä omalla tietokoneella – RAM-muisti tehokkaampaan käyttöön pilvessä

:n toimitusjohtaja Sam Altman on herättänyt keskustelua näkemyksellään tietokoneiden keskusmuistin käytöstä. Altmanin mukaan rajallisen DRAM-muistin hajauttaminen yksittäisiin tietokoneisiin ei ole tekoälylaskennan kannalta erityisen tehokasta, jos muistia hyödynnetään vain pienen osan ajasta.

Altman käsitteli aihetta John Collisonin juontamassa Cheeky Pint -podcastissa. Keskustelun taustalla ovat muistipiirien korkeat hinnat sekä tekoälypalvelinkeskusten kasvava laitteistokysyntä.

Altman puolustaa pilvipalveluiden tehokkuutta

Haastattelussa Altman otti esimerkiksi paikallisesti ajettavat tekoälymallit. Hänen mukaansa osa käyttäjistä uskoo, että avoimesti saatavilla olevat mallit vähentävät palvelinkeskusten tarvetta, koska niitä voi käyttää omalla tietokoneella.

Altman piti ongelmallisena tilannetta, jossa maailman rajallista DRAM-muistia on runsaasti henkilökohtaisissa tietokoneissa mutta sitä käytetään hänen arvionsa mukaan vain noin viisi prosenttia ajasta. Hänen mielestään niukassa markkinatilanteessa muistin käyttöaste kannattaa maksimoida pilvipalveluissa.

Viiden prosentin luku on Altmanin haastattelussa esittämä arvio, ei tässä yhteydessä riippumattomasti vahvistettu mittaustulos. Kommentti koski ennen kaikkea tekoälymallien paikallista suorittamista, ei väitettä siitä, että pelitietokoneiden RAM-muisti olisi tarpeeton.

Paikallisella tekoälyllä on myös etunsa

Paikallisesti toimivat tekoälymallit voivat tarjota käyttäjälle enemmän hallintaa omiin tietoihin, toimia ilman jatkuvaa verkkoyhteyttä ja vähentää riippuvuutta pilvipalveluiden käyttörajoituksista. Tietokoneen keskusmuistia käytetään myös pelaamiseen, käyttöjärjestelmään ja muihin ohjelmiin, joten tekoälyn käyttöaste ei yksin kuvaa koko muistin hyötyä.

Muistipiirien kysynnästä on tullut merkittävä kysymys myös PC-pelaajille, sillä palvelinkeskusten investoinnit kilpailevat osin samoista tuotantoresursseista kuluttajalaitteiden kanssa. Altmanin kommentit nostavatkin esiin laajemman kysymyksen siitä, missä tekoälylaskenta kannattaa tulevaisuudessa tehdä: käyttäjän omalla laitteella vai pilvessä.

Lähteet: IGN Nordic