Teknologia

Tekoäly-yritys OpenAI on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta Kommentit pois päältä artikkelissa Tekoäly-yritys OpenAI on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta

-yritys on julkaissut tutkimusraportin, jossa se arvioi uuden GPT-4o-mallinsa turvallisuutta. Raportissa todetaan, että mallin riskitaso on ”keskitasoinen”.

OpenAI on joutunut viime aikoina kovaan kritiikkiin turvallisuuskulttuurinsa suhteen. Yhtiö on kuitenkin pyrkinyt lisäämään avoimuutta julkaisemalla raportteja mallien arvioinneista. :n kohdalla yhtiö on käyttänyt ulkopuolisia turvallisuustestaajia, jotka ovat analysoineet mallin mahdollisia riskialttiuksia, kuten kykyä luoda vääriä ääniä, luoda seksuaalis- ja väkivaltaista sisältöä tai kopioida tekijänoikeudella suojattua ääntä.

Vaikka GPT-4o:n kykyä manipuloida lukijaa on pidetty keskimääräistä parempana, ei malli ole kokonaisuudessaan vakuuttavampi kuin ihmiesen kirjoittama teksti. OpenAI korostaa, että yhtiö on testannut mallia erilaisissa tosielämän skenaarioissa, jotta väärinkäytön riskiä voitaisiin vähentää.

Huolimatta ulkopuolisten asiantuntijoiden osallistumisesta arviointiin, OpenAI:n oma arviointiprosessi on edelleen keskeisessä roolissa. Kaliforniassa on parhaillaan vireillä laki, joka asettaisi tiukempia vaatimuksia tekoälymalleille ja niiden turvallisuustesteille.

Tekoälyskandaali ravistelee Saksan mediaa – kuka lopulta vastaa koneen kirjoittamista sanoista? Kommentit pois päältä artikkelissa Tekoälyskandaali ravistelee Saksan mediaa – kuka lopulta vastaa koneen kirjoittamista sanoista?

Tekoälyn käyttö mediassa on noussut Saksassa kuumaksi puheenaiheeksi, kun tekoälyyn liittyvät epäilyt ja virheet ovat herättäneet keskustelua siitä, missä menee ihmisen ja koneen vastuun raja. Kysymys kuuluu: jos kirjoittaa, kuka kantaa vastuun, kun teksti menee pieleen?

Kohun keskellä on ollut Tagesspielel -lehden entinen kustantaja ja päätoimittaja Stephan-Andreas Casdorff, jonka on väitetty käyttäneen tekoälyä puheiden ja kirjoitusten valmistelussa. Saksalaisissa lehdissä tekoälyä käytetään työkaluna, mutta tapaus on herättänyt keskustelua siitä, pitäisikö tekoälyn käytöstä kertoa avoimemmin esimerkiksi politiikassa ja mediassa.

Kuva: Die Zeit

Samaan aikaan Saksassa on käyty laajempaa keskustelua tekoälyn tuottaman sisällön vastuusta. Müncheniläinen oikeusistuin katsoi kesäkuussa, että Google voidaan pitää vastuussa tekoälyn tuottamista virheellisistä vastauksista, koska tekoälyn muodostama yhteenveto ei ole vain lista hakutuloksia vaan uuden sisällön tuottamista.

Tekoäly lupaa nopeuttaa uutistyötä, tekstien tekemistä ja tiedon käsittelyä, mutta samalla se tuo mukanaan uudenlaisia ongelmia. Kone voi kirjoittaa vakuuttavasti myös silloin, kun se on väärässä – vähän kuin itsevarma harjoittelija, joka palauttaa työnsä nopeasti mutta unohti tarkistaa faktat.

Saksassa käytävä keskustelu voi vaikuttaa laajemminkin siihen, miten uutistoimitukset, yritykset ja julkiset toimijat käyttävät tekoälyä tulevaisuudessa. Ehkä tulevaisuuden tärkein kysymys ei olekaan, osaako tekoäly kirjoittaa – vaan kuka allekirjoittaa lopputuloksen.

Kyberrikolliset ottavat tutut työkalut aseiksi – HP varoittaa uudesta huijauksen aallosta Kommentit pois päältä artikkelissa Kyberrikolliset ottavat tutut työkalut aseiksi – HP varoittaa uudesta huijauksen aallosta

:n tuore uhkaraportti maalaa aika kylmän kuvan verkkomaailmasta: eivät enää vain murra järjestelmiä, vaan käyttävät hyväkseen juuri niitä ohjelmia ja työkaluja, joihin ihmiset jo valmiiksi luottavat. Lopputulos on kuin varkaalla olisi pankin avain, mutta hän teeskentelisi olevansa asiakaspalvelija.

Yksi huolestuttavimmista havainnoista liittyy oikeisiin etäkäyttötyökaluihin, kuten LogMeInin ja ScreenConnectin kaltaisiin ohjelmiin. Hyökkääjät houkuttelevat käyttäjiä lataamaan niitä esimerkiksi verokauden päättymiseen liittyvien huijausviestien tai väärennettyjen deittisivustojen kautta. Kun ohjelma on asennettu, rikolliset voivat hallita konetta lähes huomaamatta.

Kuva: LogMeIn Hamachi – Wikipedia

Toinen koukku on kryptovaluuttoihin liittyvä huijaus. Väärennetyt “lompakon palautustyökalut” lupaavat auttaa kadonneiden varojen löytämisessä, mutta todellisuudessa ne imevät kirjautumistiedot ja lompakon sisällön suoraan rikollisille. HP:n tutkijat huomasivat jopa, että osa haitallisesta koodista näyttää olevan tekoälyn “vibe-koodaamaa”, eli nopeasti ja huolimattomasti generoituja skriptejä, jotka silti toimivat yllättävän tehokkaasti.

Ehkä erikoisin kikka on niin sanotut ClickFix-kampanjat, joissa haittaohjelma naamioidaan äänitiedostoksi. Käyttäjä huijataan läpäisemään uskottavalta näyttävä -testi, jonka jälkeen kone suorittaa taustalla haitallisen komennon – ilman että käyttäjä tajuaa juuri hyväksyneensä digitaalisen “kutsun kutsumattomille vieraille”.

Kuva: reCAPTCHA – Wikipedia

HP:n viesti on selkeä: kyberrikolliset eivät enää näytä kyberrikollisilta. He puhuvat tuttujen sovellusten kieltä, käyttävät arkipäiväisiä houkuttimia ja piiloutuvat normaaliin liikenteeseen. Ja juuri siksi vaarallisin uhka ei välttämättä näytä lainkaan epäilyttävältä – ennen kuin on jo liian myöhäistä.