OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa Kommentit pois päältä artikkelissa OpenAI:n AGI-johtaja erosi – ei usko yrityksen olevan valmis siihen mitä se on rakentamassa

:n -valmiuden johtaja on eronnut tehtävästään. Brundage varoittaa, ettei OpenAI tai maailma ole valmis tulevaisuuteen, jossa keinotekoinen yleinen älykkyys (AGI) on arkipäivää.

Brundage kirjoittaa eron syyksi huolensa siitä, ettei OpenAI tai maailma ole riittävästi valmistautunut AGI:n mahdollisuuksiin ja riskeihin. Hän uskoo, että AGI:n kehitystä tulisi ohjata ulkopuolelta, eikä yrityksen sisästä.

Brundage on yksi OpenAI:n AGI-valmiusasteikon luojista. Tämä asteikko määrittelee viisi eri tasoa AGI:n kehityksessä. OpenAI uskoo tällä hetkellä olevan tasolla 2, joka tarkoittaa ihmisen tason päättelykykyä.

Brundage kuitenkin korostaa, että sekä OpenAI että maailma tarvitsevat vielä paljon työtä AGI:n turvallisen ja hyödyllisen kehittämisen varmistamiseksi. Hän huomauttaa, että AGI:n hyödyt eivät tule itsestään, vaan vaativat tarkkaan harkittua ohjausta ja sääntelyä.

AI-kuvat karkottavat asiakkaat? Olutvaikuttaja tyrmää tekoälymarkkinoinnin: ”Halpa ulkoasu heijastuu koko brändiin” Kommentit pois päältä artikkelissa AI-kuvat karkottavat asiakkaat? Olutvaikuttaja tyrmää tekoälymarkkinoinnin: ”Halpa ulkoasu heijastuu koko brändiin”

Tekoälyllä tehdyt kuvat ja mainokset ovat yleistyneet vauhdilla, mutta kaikki eivät näe ilmiötä hyvällä. Yhdysvaltalainen olutalan vaikuttaja Chadd Balbi yhtyy kiivaaseen keskusteluun, että erityisesti pienpanimoille tekoälyn käyttö markkinoinnissa voi tehdä enemmän hallaa kuin hyötyä.

Balbin mukaan ongelma ei ole ympäristövaikutuksissa tai itse teknologiassa, vaan siinä, millaisen viestin tekoälyllä tehdyt mainokset välittävät asiakkaille.

”Support local” ja tekoäly eivät sovi yhteen

Käsityöolutala on vuosien ajan rakentanut identiteettiään paikallisuuden, käsityön ja luovuuden ympärille. Monille kuluttajille panimon tukeminen tarkoittaa sitä, että rahaa käytetään tarkoituksella hieman enemmän paikallisen yrityksen hyväksi.

Balbin mukaan tekoälyllä muutamassa minuutissa tehty tapahtumajuliste tai somekuva lähettää kuitenkin täysin päinvastaisen viestin.

Jos panimo odottaa asiakkaiden maksavan enemmän ”paikallisuuden” vuoksi, mutta säästää itse markkinoinnissa käyttämällä geneeristä tekoälykuvaa, moni kokee suhteen muuttuvan yksisuuntaiseksi.

– Asiakkaalle syntyy helposti vaikutelma, että yritys oikoo mutkia siellä, missä sen pitäisi panostaa omaan identiteettiinsä.

Halpa ulkoasu heijastuu koko brändiin

Balbin mukaan brändi on yksi pienpanimoiden tärkeimmistä kilpailuvalteista. Jos markkinointi näyttää nopeasti tehdyltä tai persoonattomalta, moni yhdistää saman mielikuvan myös tuotteisiin.

Hänen mielestään tekoälyllä luotu juliste voi saada panimon näyttämään samalta kuin mikä tahansa ketjuravintola.

Ajatus on yksinkertainen: jos yritys säästää näkyvästi markkinoinnissa, asiakas voi alkaa pohtia, missä muualla kustannuksia on leikattu.

Puhelimen kamera riittää

Balbi ymmärtää, ettei monilla pienpanimoilla ole ylimääräistä rahaa markkinointiin. Silti hän uskoo, että aidot valokuvat missä tahansa markkinoinnissa ovat lähes aina parempi vaihtoehto kuin tekoälyn luoma kuvitus.

Nykypuhelimien kamerat tuottavat hänen mukaansa riittävän laadukasta materiaalia sosiaaliseen mediaan täysin ilmaiseksi. Jos budjettia löytyy hieman enemmän, graafisia suunnittelijoita ja helppokäyttöisiä suunnittelutyökaluja on tarjolla runsaasti.

Keskustelu jakaa mielipiteitä

Balbin kirjoitus on herättänyt keskustelua myös olutalan ulkopuolella. Osa pitää tekoälyä hyödyllisenä työkaluna, joka säästää aikaa ja rahaa erityisesti pienyrityksille. Toisten mielestä taas juuri persoonallinen visuaalinen ilme on yksi tärkeimmistä tavoista erottua kilpailijoista.

Keskustelu ei myöskään rajoitu pienpanimoihin. Sama kysymys koskettaa yhä useampia yrityksiä: vahvistaako brändiä vai tekeekö siitä vain entistä geneerisemmän?

Tekoälyn kanssa käytyjä yksityisiä keskusteluja päätyi Googleen – mukana CV:itä, työprojekteja ja henkilökohtaisia tietoja Kommentit pois päältä artikkelissa Tekoälyn kanssa käytyjä yksityisiä keskusteluja päätyi Googleen – mukana CV:itä, työprojekteja ja henkilökohtaisia tietoja

Sadat Anthropicin Claude-tekoälypalvelun käyttäjien keskustelut ovat olleet julkisesti löydettävissä hakukoneiden kautta. BBC:n mukaan osa keskusteluista sisälsi henkilötietoja, työprojekteihin liittyviä luottamuksellisia tietoja sekä muita arkaluonteisia sisältöjä.

Keskustelut löytyivät esimerkiksi Googlesta tekemällä Claude-sivustoon kohdistetun haun. Vaikka hakutulokset on sittemmin poistettu, monet niistä ehtivät levitä verkossa ennen kuin Anthropic esti niiden indeksoinnin.

Jakolinkki saattoi päätyä myös hakukoneisiin

Tapauksen taustalla ei ollut tietomurto, vaan Clauden Share-ominaisuus. Kun käyttäjä jakoi keskustelun linkin avulla, keskustelu muuttui julkisesti saavutettavaksi.

Anthropic huomauttaa, että käyttäjät päättävät itse keskustelujen jakamisesta, eikä linkkejä voi arvata sattumalta. Yhtiön mukaan julkisesti jaettu sisältö voidaan kuitenkin indeksoida hakukoneisiin samalla tavoin kuin mikä tahansa muukin verkkosivu.

Ongelmana on, ettei jakotoiminto kerro käyttäjälle selkeästi, että keskustelu voi päätyä myös Googlen hakutuloksiin eikä pelkästään henkilöille, joille linkki lähetetään.

Keskusteluissa näkyi henkilötietoja ja yrityssalaisuuksia

Reddit-käyttäjät löysivät hakukoneista yli 200 Claude-keskustelua. Mukana oli muun muassa:

  • ansioluetteloita nimi- ja yhteystietoineen
  • yritysten sisäisiä pilvipalveluprojekteja
  • terveydenhuoltoon liittyvää tutkimusmateriaalia
  • yksityisiä keskusteluja
  • erilaisia henkilökohtaisia kysymyksiä ja kokeiluja tekoälyn kanssa.

Yhdessä keskustelussa käyttäjä pyysi Claudea kirjoittamaan julkaisemattoman blogitekstin yrityksen pilviturvallisuushankkeesta. Toisessa käyttäjä kysyi, kuinka voisi kirjaimellisesti muuttua yhdeksänhäntäiseksi ketuksi.

Vastaavia tapauksia on nähty aiemminkin

Claude ei ole ensimmäinen tekoälypalvelu, jonka käyttäjien keskusteluja on päätynyt hakukoneisiin. Viime vuonna vastaava ongelma havaittiin myös ChatGPT:ssä, minkä jälkeen muutti tapaa, jolla jaettuja keskusteluja voitiin löytää verkosta.

Myös xAI:n Grok-chatbotin keskusteluja päätyi viime vuonna julkisesti haettaviksi.

Googlen mukaan hakukone ei päätä, mitä sisältöä indeksoidaan, vaan verkkosivustojen omistajat voivat itse estää sivujen näkymisen hakutuloksissa. Anthropic onkin sittemmin estänyt Claude-keskustelujen indeksoinnin hakukoneisiin.

Tapauksen myötä muistutus on jälleen ajankohtainen: tekoälypalveluihin ei kannata syöttää arkaluonteisia henkilötietoja tai luottamuksellista yritysmateriaalia, vaikka keskustelu tuntuisi yksityiseltä.