Teknologia

Apple keskeyttää tekoälyn tuottamat uutistiivistelmät ”keksittyjen otsikoiden” vuoksi Kommentit pois päältä artikkelissa Apple keskeyttää tekoälyn tuottamat uutistiivistelmät ”keksittyjen otsikoiden” vuoksi

on päättänyt väliaikaisesti poistaa käytöstä uuden tekoälyominaisuutensa, joka tuottaa tiivistelmiä uutisten push-ilmoituksista. Päätös tehtiin sen jälkeen, kun ominaisuus tuotti toistuvasti virheellisiä ja harhaanjohtavia otsikoita, mikä herätti vastustusta uutisorganisaatioiden ja lehdistönvapautta puolustavien ryhmien keskuudessa.

Torstaina Apple julkaisi kehittäjille beta-ohjelmistopäivityksen, joka poistaa tekoälyominaisuuden käytöstä uutis- ja viihdeotsikoiden osalta. Yhtiö aikoo myöhemmin julkaista päivityksen kaikille käyttäjille ja työstää samalla parannuksia tekoälyominaisuuteen. Apple suunnittelee ottavansa ominaisuuden uudelleen käyttöön tulevassa päivityksessä.

BBC valitti Applelle teknologiasta joulukuussa, kun se loi valheellisen otsikon väittäen United Healthcaren toimitusjohtajan murhasta syytetyn Luigi Mangionen ampuneen itsensä. Toisessa tapauksessa yhdisti kolme New York Timesin artikkelia yhdeksi push-ilmoitukseksi, joka virheellisesti väitti Israelin pääministeri Benjamin Netanyahun tulleen pidätetyksi.

Vielä keskiviikkona tekoälyominaisuus tiivisti Washington Postin ilmoituksen täysin väärin väittäen virheellisesti ”Pete Hegsethin tulleen erotetuksi, Trumpin tullien vaikuttaneen inflaatioon, ja Pam Bondin sekä Marco Rubion tulleen vahvistetuiksi”. Mikään näistä väitteistä ei pitänyt paikkaansa.

Lehdistönvapautta puolustavat ryhmät, kuten Toimittajat ilman rajoja ja kansallinen toimittajaliitto NUJ, ovat korostaneet tiivistelmien vaaroja kuluttajille, jotka etsivät luotettavaa tietoa. Ne ovat vaatineet tekoälytiivistelmien poistamista.

Applen tekoälyongelmat eivät ole ainutlaatuisia. Suositut tekoälymallit kuten ChatGPT tuottavat usein niin sanottuja ”hallusinaatioita” eli itsevarmasti esitettyjä, mutta keksittyjä vastauksia. Heinäkuussa 2024 julkaistu Cornellin, Washingtonin yliopiston ja Waterloon yliopiston tutkimus osoitti, että huippuluokan tekoälymalleihin ei voi vieläkään täysin luottaa niiden taipumuksen takia keksiä tietoa.

Osana tulevaa päivitystä Apple aikoo korostaa selvemmin, että tiivistelmät ovat tekoälyn tuottamia, viestien samalla että ne saattavat joskus tuottaa epätarkkoja tuloksia.

Amazon ja Twitch oikeuteen: Striimaajien sisältöä käytetty tekoälyn kouluttamiseen luvatta Kommentit pois päältä artikkelissa Amazon ja Twitch oikeuteen: Striimaajien sisältöä käytetty tekoälyn kouluttamiseen luvatta

ja ovat joutuneet oikeuskiistan keskelle, kun striimaaja Warren Pandiscia on nostanut yhtiöitä vastaan ryhmäkanteen. Connecticutissa toimiva striimaaja väittää, että Twitchin sisältöä on käytetty Amazonin tekoälymallien kouluttamiseen ilman striimaajilta saatua lupaa tai erillistä lisenssiä.

Kanteen mukaan Amazon ja Twitch ovat käyttäneet striimaajien videoita ja lähetyksiä tekoälymallien tarvitsemana aineistona ilman asianmukaista suostumusta. Pandiscia syyttää yhtiöitä muun muassa sopimusrikkomuksesta ja väittää, että striimaajien sisältöä on hyödynnetty kaupallisten tekoälytuotteiden kehittämiseen ilman korvausta.

Kohua lisää Twitchin aiemmin tässä kuussa tekemä muutos, jonka myötä käyttäjille lisättiin mahdollisuus kieltäytyä kanavansa sisällön käyttämisestä Amazonin generatiivisten tekoälymallien kouluttamiseen. Asetus on kuitenkin oletuksena päällä. Twitchin tuotepäällikkö Mike Minton kommentoi asiaa Patch Notes -lähetyksessä varsin suorasukaisesti: jos toiminto olisi opt-in eli vapaaehtoinen, kukaan ei hänen mukaansa liittyisi mukaan.

Ryhmäkanteessa väitetään, että Twitchin ja Amazonin toiminta on aiheuttanut sisällöntuottajille taloudellista haittaa samalla, kun yhtiöt ovat saaneet heidän sisällöstään hyötyä. Tapaus liittyy laajempaan keskusteluun siitä, missä menee tekoälyn kouluttamiseen käytettävän aineiston ja sisällöntuottajien oikeuksien raja.

Amazon ei ole ainoa teknologiajätti, joka on joutunut vastaavan syytöksen kohteeksi. Aiemmin tänä vuonna kolme -sisällöntuottajaa haastoi Applen oikeuteen väitetystä tekijänoikeudella suojatun sisällön käyttämisestä tekoälyn kouluttamiseen. Twitch-tapauksessa seuraavaksi nähdään, kuinka oikeus suhtautuu striimaajien sisältöjen käyttöön tekoälyn polttoaineena.

Tekoälyn piti voittaa ihmiset puolelleen – nyt luottamus onkin laskussa Kommentit pois päältä artikkelissa Tekoälyn piti voittaa ihmiset puolelleen – nyt luottamus onkin laskussa

kehittyy vauhdilla, mutta ihmisten innostus ei näytä pysyvän perässä. Tuoreen Pew Researchin kyselyn mukaan esimerkiksi jo 52 prosenttia amerikkalaisista on tekoälyn lisääntymisestä arjessa enemmän huolissaan kuin innostunut. Vuonna 2021 vastaava luku oli 37 prosenttia.

Myös muissa kyselyissä tulokset ovat tekoälyn kannalta karuja. Yli 70 prosenttia amerikkalaisista kokee tekoälyn kehittyvän liian nopeasti, ja nuorten aikuisten luottamus tekoälyalan johtajiin on niin ikään heikko.

Ongelma saattaa olla siinä, että tekoälyn luvatut hyödyt eivät näy tavallisen ihmisen arjessa. Sen sijaan vastaan tulee tekoälyllä höystettyjä hakukoneita, sähköposteja ja televisioita – sekä jatkuvaa puhetta työpaikkojen katoamisesta, tekijänoikeuksista ja tekoälyn väärinkäytöksistä.

Samaan aikaan nuoret ovat alkaneet kiinnostua vanhemmasta teknologiasta, kuten dumbphoneista, pokkarikameroista, kasettisoittimista ja CD-soittimista.

Myös tekoälyalan sisältä myönnetään ongelma. Airbnb:n toimitusjohtaja Brian Chesky sanoo, että alan pitäisi tehdä tuotteita, joista tavalliset ihmiset oikeasti pitävät. Anthropicin toimitusjohtaja Dario Amodei puolestaan kutsuu tilannetta luottamuskriisiksi.

Tekoälyn piti tehdä elämästä parempaa. Nyt alan pitäisi ilmeisesti ensin todistaa, että se oikeasti tekee niin.