Teknologia

Tekoälyskandaali ravistelee Saksan mediaa – kuka lopulta vastaa koneen kirjoittamista sanoista? Kommentit pois päältä artikkelissa Tekoälyskandaali ravistelee Saksan mediaa – kuka lopulta vastaa koneen kirjoittamista sanoista?

Tekoälyn käyttö mediassa on noussut Saksassa kuumaksi puheenaiheeksi, kun tekoälyyn liittyvät epäilyt ja virheet ovat herättäneet keskustelua siitä, missä menee ihmisen ja koneen vastuun raja. Kysymys kuuluu: jos kirjoittaa, kuka kantaa vastuun, kun teksti menee pieleen?

Kohun keskellä on ollut Tagesspielel -lehden entinen kustantaja ja päätoimittaja Stephan-Andreas Casdorff, jonka on väitetty käyttäneen tekoälyä puheiden ja kirjoitusten valmistelussa. Saksalaisissa lehdissä tekoälyä käytetään työkaluna, mutta tapaus on herättänyt keskustelua siitä, pitäisikö tekoälyn käytöstä kertoa avoimemmin esimerkiksi politiikassa ja mediassa.

Kuva: Die Zeit

Samaan aikaan Saksassa on käyty laajempaa keskustelua tekoälyn tuottaman sisällön vastuusta. Müncheniläinen oikeusistuin katsoi kesäkuussa, että Google voidaan pitää vastuussa tekoälyn tuottamista virheellisistä vastauksista, koska tekoälyn muodostama yhteenveto ei ole vain lista hakutuloksia vaan uuden sisällön tuottamista.

Tekoäly lupaa nopeuttaa uutistyötä, tekstien tekemistä ja tiedon käsittelyä, mutta samalla se tuo mukanaan uudenlaisia ongelmia. Kone voi kirjoittaa vakuuttavasti myös silloin, kun se on väärässä – vähän kuin itsevarma harjoittelija, joka palauttaa työnsä nopeasti mutta unohti tarkistaa faktat.

Saksassa käytävä keskustelu voi vaikuttaa laajemminkin siihen, miten uutistoimitukset, yritykset ja julkiset toimijat käyttävät tekoälyä tulevaisuudessa. Ehkä tulevaisuuden tärkein kysymys ei olekaan, osaako tekoäly kirjoittaa – vaan kuka allekirjoittaa lopputuloksen.

AI-kuvat karkottavat asiakkaat? Olutvaikuttaja tyrmää tekoälymarkkinoinnin: ”Halpa ulkoasu heijastuu koko brändiin” Kommentit pois päältä artikkelissa AI-kuvat karkottavat asiakkaat? Olutvaikuttaja tyrmää tekoälymarkkinoinnin: ”Halpa ulkoasu heijastuu koko brändiin”

Tekoälyllä tehdyt kuvat ja mainokset ovat yleistyneet vauhdilla, mutta kaikki eivät näe ilmiötä hyvällä. Yhdysvaltalainen olutalan vaikuttaja Chadd Balbi yhtyy kiivaaseen keskusteluun, että erityisesti pienpanimoille tekoälyn käyttö markkinoinnissa voi tehdä enemmän hallaa kuin hyötyä.

Balbin mukaan ongelma ei ole ympäristövaikutuksissa tai itse teknologiassa, vaan siinä, millaisen viestin tekoälyllä tehdyt mainokset välittävät asiakkaille.

”Support local” ja tekoäly eivät sovi yhteen

Käsityöolutala on vuosien ajan rakentanut identiteettiään paikallisuuden, käsityön ja luovuuden ympärille. Monille kuluttajille panimon tukeminen tarkoittaa sitä, että rahaa käytetään tarkoituksella hieman enemmän paikallisen yrityksen hyväksi.

Balbin mukaan tekoälyllä muutamassa minuutissa tehty tapahtumajuliste tai somekuva lähettää kuitenkin täysin päinvastaisen viestin.

Jos panimo odottaa asiakkaiden maksavan enemmän ”paikallisuuden” vuoksi, mutta säästää itse markkinoinnissa käyttämällä geneeristä tekoälykuvaa, moni kokee suhteen muuttuvan yksisuuntaiseksi.

– Asiakkaalle syntyy helposti vaikutelma, että yritys oikoo mutkia siellä, missä sen pitäisi panostaa omaan identiteettiinsä.

Halpa ulkoasu heijastuu koko brändiin

Balbin mukaan brändi on yksi pienpanimoiden tärkeimmistä kilpailuvalteista. Jos markkinointi näyttää nopeasti tehdyltä tai persoonattomalta, moni yhdistää saman mielikuvan myös tuotteisiin.

Hänen mielestään tekoälyllä luotu juliste voi saada panimon näyttämään samalta kuin mikä tahansa ketjuravintola.

Ajatus on yksinkertainen: jos yritys säästää näkyvästi markkinoinnissa, asiakas voi alkaa pohtia, missä muualla kustannuksia on leikattu.

Puhelimen kamera riittää

Balbi ymmärtää, ettei monilla pienpanimoilla ole ylimääräistä rahaa markkinointiin. Silti hän uskoo, että aidot valokuvat missä tahansa markkinoinnissa ovat lähes aina parempi vaihtoehto kuin tekoälyn luoma kuvitus.

Nykypuhelimien kamerat tuottavat hänen mukaansa riittävän laadukasta materiaalia sosiaaliseen mediaan täysin ilmaiseksi. Jos budjettia löytyy hieman enemmän, graafisia suunnittelijoita ja helppokäyttöisiä suunnittelutyökaluja on tarjolla runsaasti.

Keskustelu jakaa mielipiteitä

Balbin kirjoitus on herättänyt keskustelua myös olutalan ulkopuolella. Osa pitää tekoälyä hyödyllisenä työkaluna, joka säästää aikaa ja rahaa erityisesti pienyrityksille. Toisten mielestä taas juuri persoonallinen visuaalinen ilme on yksi tärkeimmistä tavoista erottua kilpailijoista.

Keskustelu ei myöskään rajoitu pienpanimoihin. Sama kysymys koskettaa yhä useampia yrityksiä: vahvistaako brändiä vai tekeekö siitä vain entistä geneerisemmän?

Tekoälyn kanssa käytyjä yksityisiä keskusteluja päätyi Googleen – mukana CV:itä, työprojekteja ja henkilökohtaisia tietoja Kommentit pois päältä artikkelissa Tekoälyn kanssa käytyjä yksityisiä keskusteluja päätyi Googleen – mukana CV:itä, työprojekteja ja henkilökohtaisia tietoja

Sadat Anthropicin Claude-tekoälypalvelun käyttäjien keskustelut ovat olleet julkisesti löydettävissä hakukoneiden kautta. BBC:n mukaan osa keskusteluista sisälsi henkilötietoja, työprojekteihin liittyviä luottamuksellisia tietoja sekä muita arkaluonteisia sisältöjä.

Keskustelut löytyivät esimerkiksi Googlesta tekemällä Claude-sivustoon kohdistetun haun. Vaikka hakutulokset on sittemmin poistettu, monet niistä ehtivät levitä verkossa ennen kuin Anthropic esti niiden indeksoinnin.

Jakolinkki saattoi päätyä myös hakukoneisiin

Tapauksen taustalla ei ollut tietomurto, vaan Clauden Share-ominaisuus. Kun käyttäjä jakoi keskustelun linkin avulla, keskustelu muuttui julkisesti saavutettavaksi.

Anthropic huomauttaa, että käyttäjät päättävät itse keskustelujen jakamisesta, eikä linkkejä voi arvata sattumalta. Yhtiön mukaan julkisesti jaettu sisältö voidaan kuitenkin indeksoida hakukoneisiin samalla tavoin kuin mikä tahansa muukin verkkosivu.

Ongelmana on, ettei jakotoiminto kerro käyttäjälle selkeästi, että keskustelu voi päätyä myös Googlen hakutuloksiin eikä pelkästään henkilöille, joille linkki lähetetään.

Keskusteluissa näkyi henkilötietoja ja yrityssalaisuuksia

Reddit-käyttäjät löysivät hakukoneista yli 200 Claude-keskustelua. Mukana oli muun muassa:

  • ansioluetteloita nimi- ja yhteystietoineen
  • yritysten sisäisiä pilvipalveluprojekteja
  • terveydenhuoltoon liittyvää tutkimusmateriaalia
  • yksityisiä keskusteluja
  • erilaisia henkilökohtaisia kysymyksiä ja kokeiluja tekoälyn kanssa.

Yhdessä keskustelussa käyttäjä pyysi Claudea kirjoittamaan julkaisemattoman blogitekstin yrityksen pilviturvallisuushankkeesta. Toisessa käyttäjä kysyi, kuinka voisi kirjaimellisesti muuttua yhdeksänhäntäiseksi ketuksi.

Vastaavia tapauksia on nähty aiemminkin

Claude ei ole ensimmäinen tekoälypalvelu, jonka käyttäjien keskusteluja on päätynyt hakukoneisiin. Viime vuonna vastaava ongelma havaittiin myös ChatGPT:ssä, minkä jälkeen OpenAI muutti tapaa, jolla jaettuja keskusteluja voitiin löytää verkosta.

Myös xAI:n Grok-chatbotin keskusteluja päätyi viime vuonna julkisesti haettaviksi.

Googlen mukaan hakukone ei päätä, mitä sisältöä indeksoidaan, vaan verkkosivustojen omistajat voivat itse estää sivujen näkymisen hakutuloksissa. Anthropic onkin sittemmin estänyt Claude-keskustelujen indeksoinnin hakukoneisiin.

Tapauksen myötä muistutus on jälleen ajankohtainen: tekoälypalveluihin ei kannata syöttää arkaluonteisia henkilötietoja tai luottamuksellista yritysmateriaalia, vaikka keskustelu tuntuisi yksityiseltä.