Teknologia

Claude alkaa merkitä tekoälyn tuottamaa sisältöä näkymättömillä vesileimoilla Kommentit pois päältä artikkelissa Claude alkaa merkitä tekoälyn tuottamaa sisältöä näkymättömillä vesileimoilla

Anthropic aikoo ottaa käyttöön koneellisesti tunnistettavat merkinnät -tekoälyn tuottamaan sisältöön. Tekstiin upotetaan näkymätön vesileima, kun taas tuettuihin tiedostoihin voidaan lisätä digitaalisesti allekirjoitettua alkuperämetadataa. Muutokset liittyvät Euroopan unionin uusiin tekoälyn läpinäkyvyyttä koskeviin vaatimuksiin.

Anthropic kertoo, että uudet Claude-mallit merkitsevät tekoälyn tuottaman sisällön heti julkaisustaan lähtien. EU:ssa 2. elokuuta 2026 tai sen jälkeen julkaistut Claude-mallit tukevat koneellisesti luettavia merkintöjä. Nykyisten mallien osalta käyttöönotto on vielä työn alla.

Tekstin kohdalla merkintä toteutetaan niin sanotulla näkymättömällä vesileimalla. Se ei näy käyttäjälle eikä Anthropicin mukaan muuta tekstin merkitystä, laatua tai luettavuutta. Vesileima on kuitenkin tarkoitettu tunnistettavaksi erityisillä työkaluilla.

Anthropic kertoo merkinnän olevan osa itse Claude-mallin tuottamaa tekstiä. Sen vuoksi sen pitäisi kulkea tekstin mukana myös silloin, kun sisältö kopioidaan ja liitetään esimerkiksi toiseen palveluun. Yhtiön mukaan merkintä voi säilyä myös joidenkin tekstin muokkausten jälkeen.

Anthropic ei kuitenkaan ole vielä kertonut tarkasti, millä teknisellä menetelmällä tekstin vesileima toteutetaan. Yhtiö kertoo julkaisevansa tulevaisuudessa lisää teknisiä tietoja sekä työkaluja, joiden avulla käyttäjät ja kolmannet osapuolet voivat tunnistaa Claude-sisällön.

Kuvissa käytetään C2PA-standardia

Kuvien ja muiden tuettujen tiedostojen kohdalla Anthropic käyttää toisenlaista menetelmää. Niihin voidaan lisätä C2PA-standardin mukaista alkuperämetadataa, joka kertoo tiedoston alkuperästä ja sen käsittelystä. C2PA on jo käytössä useissa alan palveluissa ja työkaluissa.

Merkinnät eivät rajoitu pelkästään Claude-verkkopalveluun. Anthropic kertoo niiden koskevan tuettuja Claude-palveluita, kuten API-rajapintaa, Claude Codea, Claude Coworkia ja Claude Tagia. Merkintöjä käytetään myös silloin, kun Claudea käytetään esimerkiksi AWS:n, Google Cloudin tai Microsoft Foundryn kautta.

Anthropic kertoo soveltavansa merkintöjä maailmanlaajuisesti eikä ainoastaan EU:ssa. Taustalla ovat kuitenkin erityisesti EU:n uudet tekoälyn läpinäkyvyyttä koskevat vaatimukset, jotka tulivat voimaan 2. elokuuta. Olemassa oleville tekoälytuotteille on säädetty neljän kuukauden siirtymäaika, minkä vuoksi nykyisten Claude-mallien merkintöjen käyttöönotto jatkuu myöhemmin.

Vesileima ei takaa täydellistä tunnistamista

Järjestelmä ei myöskään tee tekoälyn tunnistamisesta aukotonta. Esimerkiksi C2PA-metadata voi kadota tiedostosta, jos sitä käsitellään tai ladataan palveluun, joka ei säilytä alkuperäisiä metatietoja. Myös tekstin vesileiman todellinen kestävyys jää nähtäväksi, sillä Anthropic ei ole vielä julkaissut menetelmän teknisiä yksityiskohtia.

Yhtiö korostaa itsekin, ettei tunnistettavan merkinnän puuttuminen tarkoita automaattisesti sitä, ettei sisältö olisi tekoälyn tuottamaa. Vesileimojen tarkoituksena on ennen kaikkea tehdä tekoälyn tuottaman sisällön alkuperän selvittämisestä nykyistä helpompaa.

Muutos on osa laajempaa kehitystä, jossa -yhtiöt pyrkivät tekemään generatiivisen tekoälyn tuottamasta sisällöstä koneellisesti tunnistettavaa. EU:n sääntelyssä tällaisia menetelmiä ovat esimerkiksi vesileimat, metadata ja muut alkuperän todentamiseen käytettävät teknologiat.

AI-kuvat karkottavat asiakkaat? Olutvaikuttaja tyrmää tekoälymarkkinoinnin: ”Halpa ulkoasu heijastuu koko brändiin” Kommentit pois päältä artikkelissa AI-kuvat karkottavat asiakkaat? Olutvaikuttaja tyrmää tekoälymarkkinoinnin: ”Halpa ulkoasu heijastuu koko brändiin”

Tekoälyllä tehdyt kuvat ja mainokset ovat yleistyneet vauhdilla, mutta kaikki eivät näe ilmiötä hyvällä. Yhdysvaltalainen olutalan vaikuttaja Chadd Balbi yhtyy kiivaaseen keskusteluun, että erityisesti pienpanimoille tekoälyn käyttö markkinoinnissa voi tehdä enemmän hallaa kuin hyötyä.

Balbin mukaan ongelma ei ole ympäristövaikutuksissa tai itse teknologiassa, vaan siinä, millaisen viestin tekoälyllä tehdyt mainokset välittävät asiakkaille.

”Support local” ja tekoäly eivät sovi yhteen

Käsityöolutala on vuosien ajan rakentanut identiteettiään paikallisuuden, käsityön ja luovuuden ympärille. Monille kuluttajille panimon tukeminen tarkoittaa sitä, että rahaa käytetään tarkoituksella hieman enemmän paikallisen yrityksen hyväksi.

Balbin mukaan tekoälyllä muutamassa minuutissa tehty tapahtumajuliste tai somekuva lähettää kuitenkin täysin päinvastaisen viestin.

Jos panimo odottaa asiakkaiden maksavan enemmän ”paikallisuuden” vuoksi, mutta säästää itse markkinoinnissa käyttämällä geneeristä tekoälykuvaa, moni kokee suhteen muuttuvan yksisuuntaiseksi.

– Asiakkaalle syntyy helposti vaikutelma, että yritys oikoo mutkia siellä, missä sen pitäisi panostaa omaan identiteettiinsä.

Halpa ulkoasu heijastuu koko brändiin

Balbin mukaan brändi on yksi pienpanimoiden tärkeimmistä kilpailuvalteista. Jos markkinointi näyttää nopeasti tehdyltä tai persoonattomalta, moni yhdistää saman mielikuvan myös tuotteisiin.

Hänen mielestään tekoälyllä luotu juliste voi saada panimon näyttämään samalta kuin mikä tahansa ketjuravintola.

Ajatus on yksinkertainen: jos yritys säästää näkyvästi markkinoinnissa, asiakas voi alkaa pohtia, missä muualla kustannuksia on leikattu.

Puhelimen kamera riittää

Balbi ymmärtää, ettei monilla pienpanimoilla ole ylimääräistä rahaa markkinointiin. Silti hän uskoo, että aidot valokuvat missä tahansa markkinoinnissa ovat lähes aina parempi vaihtoehto kuin tekoälyn luoma kuvitus.

Nykypuhelimien kamerat tuottavat hänen mukaansa riittävän laadukasta materiaalia sosiaaliseen mediaan täysin ilmaiseksi. Jos budjettia löytyy hieman enemmän, graafisia suunnittelijoita ja helppokäyttöisiä suunnittelutyökaluja on tarjolla runsaasti.

Keskustelu jakaa mielipiteitä

Balbin kirjoitus on herättänyt keskustelua myös olutalan ulkopuolella. Osa pitää tekoälyä hyödyllisenä työkaluna, joka säästää aikaa ja rahaa erityisesti pienyrityksille. Toisten mielestä taas juuri persoonallinen visuaalinen ilme on yksi tärkeimmistä tavoista erottua kilpailijoista.

Keskustelu ei myöskään rajoitu pienpanimoihin. Sama kysymys koskettaa yhä useampia yrityksiä: vahvistaako brändiä vai tekeekö siitä vain entistä geneerisemmän?

Tekoälyn kanssa käytyjä yksityisiä keskusteluja päätyi Googleen – mukana CV:itä, työprojekteja ja henkilökohtaisia tietoja Kommentit pois päältä artikkelissa Tekoälyn kanssa käytyjä yksityisiä keskusteluja päätyi Googleen – mukana CV:itä, työprojekteja ja henkilökohtaisia tietoja

Sadat Anthropicin -tekoälypalvelun käyttäjien keskustelut ovat olleet julkisesti löydettävissä hakukoneiden kautta. BBC:n mukaan osa keskusteluista sisälsi henkilötietoja, työprojekteihin liittyviä luottamuksellisia tietoja sekä muita arkaluonteisia sisältöjä.

Keskustelut löytyivät esimerkiksi Googlesta tekemällä Claude-sivustoon kohdistetun haun. Vaikka hakutulokset on sittemmin poistettu, monet niistä ehtivät levitä verkossa ennen kuin Anthropic esti niiden indeksoinnin.

Jakolinkki saattoi päätyä myös hakukoneisiin

Tapauksen taustalla ei ollut tietomurto, vaan Clauden Share-ominaisuus. Kun käyttäjä jakoi keskustelun linkin avulla, keskustelu muuttui julkisesti saavutettavaksi.

Anthropic huomauttaa, että käyttäjät päättävät itse keskustelujen jakamisesta, eikä linkkejä voi arvata sattumalta. Yhtiön mukaan julkisesti jaettu sisältö voidaan kuitenkin indeksoida hakukoneisiin samalla tavoin kuin mikä tahansa muukin verkkosivu.

Ongelmana on, ettei jakotoiminto kerro käyttäjälle selkeästi, että keskustelu voi päätyä myös Googlen hakutuloksiin eikä pelkästään henkilöille, joille linkki lähetetään.

Keskusteluissa näkyi henkilötietoja ja yrityssalaisuuksia

Reddit-käyttäjät löysivät hakukoneista yli 200 Claude-keskustelua. Mukana oli muun muassa:

  • ansioluetteloita nimi- ja yhteystietoineen
  • yritysten sisäisiä pilvipalveluprojekteja
  • terveydenhuoltoon liittyvää tutkimusmateriaalia
  • yksityisiä keskusteluja
  • erilaisia henkilökohtaisia kysymyksiä ja kokeiluja tekoälyn kanssa.

Yhdessä keskustelussa käyttäjä pyysi Claudea kirjoittamaan julkaisemattoman blogitekstin yrityksen pilviturvallisuushankkeesta. Toisessa käyttäjä kysyi, kuinka voisi kirjaimellisesti muuttua yhdeksänhäntäiseksi ketuksi.

Vastaavia tapauksia on nähty aiemminkin

Claude ei ole ensimmäinen tekoälypalvelu, jonka käyttäjien keskusteluja on päätynyt hakukoneisiin. Viime vuonna vastaava ongelma havaittiin myös ChatGPT:ssä, minkä jälkeen OpenAI muutti tapaa, jolla jaettuja keskusteluja voitiin löytää verkosta.

Myös xAI:n Grok-chatbotin keskusteluja päätyi viime vuonna julkisesti haettaviksi.

Googlen mukaan hakukone ei päätä, mitä sisältöä indeksoidaan, vaan verkkosivustojen omistajat voivat itse estää sivujen näkymisen hakutuloksissa. Anthropic onkin sittemmin estänyt Claude-keskustelujen indeksoinnin hakukoneisiin.

Tapauksen myötä muistutus on jälleen ajankohtainen: tekoälypalveluihin ei kannata syöttää arkaluonteisia henkilötietoja tai luottamuksellista yritysmateriaalia, vaikka keskustelu tuntuisi yksityiseltä.