OpenAI:n toimitusjohtaja Sam Altman on herättänyt keskustelua näkemyksellään tietokoneiden keskusmuistin käytöstä. Altmanin mukaan rajallisen DRAM-muistin hajauttaminen yksittäisiin tietokoneisiin ei ole tekoälylaskennan kannalta erityisen tehokasta, jos muistia hyödynnetään vain pienen osan ajasta.
Altman käsitteli aihetta John Collisonin juontamassa Cheeky Pint -podcastissa. Keskustelun taustalla ovat muistipiirien korkeat hinnat sekä tekoälypalvelinkeskusten kasvava laitteistokysyntä.
Altman puolustaa pilvipalveluiden tehokkuutta
Haastattelussa Altman otti esimerkiksi paikallisesti ajettavat tekoälymallit. Hänen mukaansa osa käyttäjistä uskoo, että avoimesti saatavilla olevat mallit vähentävät palvelinkeskusten tarvetta, koska niitä voi käyttää omalla tietokoneella.
Altman piti ongelmallisena tilannetta, jossa maailman rajallista DRAM-muistia on runsaasti henkilökohtaisissa tietokoneissa mutta sitä käytetään hänen arvionsa mukaan vain noin viisi prosenttia ajasta. Hänen mielestään niukassa markkinatilanteessa muistin käyttöaste kannattaa maksimoida pilvipalveluissa.
Viiden prosentin luku on Altmanin haastattelussa esittämä arvio, ei tässä yhteydessä riippumattomasti vahvistettu mittaustulos. Kommentti koski ennen kaikkea tekoälymallien paikallista suorittamista, ei väitettä siitä, että pelitietokoneiden RAM-muisti olisi tarpeeton.
Paikallisella tekoälyllä on myös etunsa
Paikallisesti toimivat tekoälymallit voivat tarjota käyttäjälle enemmän hallintaa omiin tietoihin, toimia ilman jatkuvaa verkkoyhteyttä ja vähentää riippuvuutta pilvipalveluiden käyttörajoituksista. Tietokoneen keskusmuistia käytetään myös pelaamiseen, käyttöjärjestelmään ja muihin ohjelmiin, joten tekoälyn käyttöaste ei yksin kuvaa koko muistin hyötyä.
Muistipiirien kysynnästä on tullut merkittävä kysymys myös PC-pelaajille, sillä palvelinkeskusten investoinnit kilpailevat osin samoista tuotantoresursseista kuluttajalaitteiden kanssa. Altmanin kommentit nostavatkin esiin laajemman kysymyksen siitä, missä tekoälylaskenta kannattaa tulevaisuudessa tehdä: käyttäjän omalla laitteella vai pilvessä.
Lähteet: IGN Nordic
