Teknologia

OpenAI uhkaa estää käyttäjiä kysymästä Strawberryn ajattelusta Kommentit pois päältä artikkelissa OpenAI uhkaa estää käyttäjiä kysymästä Strawberryn ajattelusta

OpenAI on ilmoittanut uhkaavansa estää käyttäjiä, jotka yrittävät selvittää uuden tekoälymallinsa Strawberryn ajattelun. Yhtiö väittää, että tämä on tarpeen turvallisuuden ja kilpailuedun vuoksi.

Kriitikot kuitenkin huomauttavat, että läpinäkyvyys on tärkeää tekoälyn kehittämisessä ja turvallisuudessa. He väittävät, että :n päätös voi rajoittaa tutkimusta ja innovaatioita.

Strawberry on OpenAI:n uusi tekoälymalli, joka on suunniteltu pystyä ”ajattelemaan”. Tämä tarkoittaa, että se voi paitsi vastata kysymyksiin myös selittää, miten se on päätynyt vastaukseen.

OpenAI:n päätös on herättänyt keskustelua tekoälyn läpinäkyvyyden tärkeydestä. Jotkut argumentoivat, että läpinäkyvyys on välttämätöntä luottamuksen rakentamiseksi tekoälyyn. Toiset huomauttavat, että läpinäkyvyys voi auttaa tunnistamaan ja korjaamaan tekoälyn mahdollisia virheitä.

OpenAI:n puolesta on kuitenkin väitetty, että läpinäkyvyys voi olla riski tekoälyn turvallisuudelle. Jos hakkerit pystyvät ymmärtämään, miten toimii, he voivat mahdollisesti hyödyntää tätä tietoa hyökkäyksiin.

OpenAI:n päätös on myös herättänyt keskustelua tekoälyn kehittämisen etiikasta. Jotkut kriitikot väittävät, että OpenAI:n päätös on esimerkki siitä, miten tekoälyn kehittäminen voi johtaa yhä suurempaan yritysten valtaan.

Lopulta OpenAI:n päätös on monimutkainen kysymys, joka ei ole helppo ratkaista. On mahdollista, että tulevaisuudessa löydetään keinoja, joiden avulla tekoälyn läpinäkyvyyttä voidaan parantaa ilman, että turvallisuus vaarantuu.

Claude alkoi estää pelien kopiointia – rajoitukset haittaavat myös tavallista pelikehitystä Kommentit pois päältä artikkelissa Claude alkoi estää pelien kopiointia – rajoitukset haittaavat myös tavallista pelikehitystä

Anthropicin – on alkanut kieltäytyä joidenkin olemassa olevien videopelien uudelleenluontiin liittyvien pyyntöjen toteuttamisesta. Tom’s Hardwaren mukaan käyttäjät ovat raportoineet samalla myös ongelmista tavallisissa pelinkehitystehtävissä ja ohjelmistojen takaisinmallinnuksessa.

Claude Codeen ja Opus 5.5 -malliin lisätty ohje pyrkii estämään yksittäisen olemassa olevan pelin jäljittelyn, vaikka kopio julkaistaisiin toisella nimellä. Ohjeen tarkoituksena ei ole kieltää alkuperäisten pelien tai samaan lajityyppiin kuuluvien uusien pelien kehittämistä.

Myös omien pelien kehittäjät kertovat ongelmista

Tom’s Hardware kertoo Claude Coden GitHubiin ilmestyneistä ilmoituksista, joissa tekoäly on keskeyttänyt kehitystyön tai kieltäytynyt auttamasta pelimekaniikan toteutuksessa. Käyttäjien mukaan ongelmia on ilmennyt myös esimerkiksi omien pelien huijauksenestojärjestelmien kehittämisessä ja tietoturvatarkastuksissa.

Erillisten käyttäjäraporttien mukaan Claude on kieltäytynyt myös joistakin yleisistä takaisinmallinnustehtävistä. Ilmoitukset eivät kuitenkaan osoita, että kaikki tällainen työ olisi estetty, eikä ole varmistettu, johtuvatko peli- ja tietoturvatehtävien rajoitukset samasta muutoksesta.

Anthropic vahvisti pelien kopiointia koskevan ohjeen

PC Gamerin mukaan Anthropicin tekniseen henkilöstöön kuuluva Addy Osmani vahvisti, että Claude Codeen lisättiin Opus 5.5 -mallia koskeva ohje, jonka tarkoitus on ohjata tekoälyä pois toisten kehittäjien tiettyjen pelien kopioinnista. Osmani korosti, että alkuperäisten pelien ja käyttäjän omiin suunnitelmiin perustuvien projektien pitäisi edelleen toimia.

Osmani kehotti kehittäjiä ilmoittamaan tapauksista, joissa Claude torjuu käyttäjän omaan peliin liittyvän tehtävän. Tämä viittaa siihen, että aikoo vielä säätää rajoituksen toimintaa palautteen perusteella.

Taustalla on pelialalla kasvanut huoli tekoälyn avulla nopeasti tuotetuista pelikopioista. Rajoitusten käytännön vaikutukset ovat kuitenkin herättäneet kysymyksiä siitä, miten järjestelmä erottaa luvattoman kopioinnin laillisesta ohjelmistokehityksestä.

Lähteet: Tom’s Hardware

OpenAI-pomo Sam Altman kritisoi tekoälyn pyörittämistä omalla tietokoneella – RAM-muisti tehokkaampaan käyttöön pilvessä Kommentit pois päältä artikkelissa OpenAI-pomo Sam Altman kritisoi tekoälyn pyörittämistä omalla tietokoneella – RAM-muisti tehokkaampaan käyttöön pilvessä

:n toimitusjohtaja Sam Altman on herättänyt keskustelua näkemyksellään tietokoneiden keskusmuistin käytöstä. Altmanin mukaan rajallisen DRAM-muistin hajauttaminen yksittäisiin tietokoneisiin ei ole tekoälylaskennan kannalta erityisen tehokasta, jos muistia hyödynnetään vain pienen osan ajasta.

Altman käsitteli aihetta John Collisonin juontamassa Cheeky Pint -podcastissa. Keskustelun taustalla ovat muistipiirien korkeat hinnat sekä tekoälypalvelinkeskusten kasvava laitteistokysyntä.

Altman puolustaa pilvipalveluiden tehokkuutta

Haastattelussa Altman otti esimerkiksi paikallisesti ajettavat tekoälymallit. Hänen mukaansa osa käyttäjistä uskoo, että avoimesti saatavilla olevat mallit vähentävät palvelinkeskusten tarvetta, koska niitä voi käyttää omalla tietokoneella.

Altman piti ongelmallisena tilannetta, jossa maailman rajallista DRAM-muistia on runsaasti henkilökohtaisissa tietokoneissa mutta sitä käytetään hänen arvionsa mukaan vain noin viisi prosenttia ajasta. Hänen mielestään niukassa markkinatilanteessa muistin käyttöaste kannattaa maksimoida pilvipalveluissa.

Viiden prosentin luku on Altmanin haastattelussa esittämä arvio, ei tässä yhteydessä riippumattomasti vahvistettu mittaustulos. Kommentti koski ennen kaikkea tekoälymallien paikallista suorittamista, ei väitettä siitä, että pelitietokoneiden RAM-muisti olisi tarpeeton.

Paikallisella tekoälyllä on myös etunsa

Paikallisesti toimivat tekoälymallit voivat tarjota käyttäjälle enemmän hallintaa omiin tietoihin, toimia ilman jatkuvaa verkkoyhteyttä ja vähentää riippuvuutta pilvipalveluiden käyttörajoituksista. Tietokoneen keskusmuistia käytetään myös pelaamiseen, käyttöjärjestelmään ja muihin ohjelmiin, joten tekoälyn käyttöaste ei yksin kuvaa koko muistin hyötyä.

Muistipiirien kysynnästä on tullut merkittävä kysymys myös PC-pelaajille, sillä palvelinkeskusten investoinnit kilpailevat osin samoista tuotantoresursseista kuluttajalaitteiden kanssa. Altmanin kommentit nostavatkin esiin laajemman kysymyksen siitä, missä tekoälylaskenta kannattaa tulevaisuudessa tehdä: käyttäjän omalla laitteella vai pilvessä.

Lähteet: IGN Nordic