Cringe: deittisovellus joka on suunniteltu pitämään sinut sinkkuna

Taustaa

Cringe on deittisovellus jonka tavoitefunktio on käännetty ympäri. Jokainen muu kategorian sovellus optimoi sitoutumista ja kutsuu sitä yhteydeksi. Cringe optimoi sitä että suljet sen ja menet ulos.

Kirjoitat profiilin. Tekoäly kirjoittaa sen uusiksi rehellisesti eikä imartelevasti, mikä on useimmille lyhyt ja epämiellyttävä dokumentti. Sitten selaat pakkaa. Osa profiileista on tekoälyn istuttamia, ja sovellus kertoo mitkä, koska EU:n tekoälyasetuksen mukaan ihmisellä on oikeus tietää milloin hän puhuu koneelle.

Se on jonotuslistalla.

Ongelma

Deittisovellukset ovat selkein esimerkki kannustinristiriidasta jonka kaikki osapuolet näkevät eikä kukaan pysty korjaamaan. Onnistunut match poistaa kaksi maksavaa käyttäjää. Melkein-match pitää molemmat tilaajina. Käyttöliittymä on viritetty melkein-tunteeseen, ikuisesti.

Profiilikerros pahentaa asiaa. Jokainen kirjoittaa optimoidun version itsestään, jokainen tietää että kaikki muutkin tekevät niin, ja kolme ensimmäistä treffiä kuluu sen purkamiseen kuinka kauas teksti ajautui ihmisestä. Epärehellisyys on molemminpuolista, yhteisymmärryksessä tapahtuvaa ja hyödytöntä.

Halusin nähdä miltä sama käyttöliittymä näyttää kun imartelu poistetaan ja keinotekoisuus merkitään.

Oma roolini

Yksin. Nuits ei ole koskaan palkannut ketään, joten tämä on minun tuotesuunnitteluani, minun brändini, minun käyttöliittymäni ja minun koodiani.

Suunnittelutyö ei ollut tässä koristelua. Vaikeinta oli saada ilmoitus tuntumaan osalta tuotetta eikä ruudun kulmaan liimatulta vaatimustenmukaisuustarralta. Lakitekstiltä näyttävä lakiteksti kuitataan yhdellä napautuksella eikä kukaan ole oppinut mitään. Se oli suunnitteluongelma ennen kuin se oli oikeudellinen.

Lähestymistapa

Aloitin rehellisestä uudelleenkirjoituksesta, koska se kertoo heti onko koko idea hauska vai vain julma.

Vetämäni raja: uudelleenkirjoitus saa olla imartelematon väitteille, ei koskaan ihmiselle. ”Rakastaa matkustamista” muuttuu huomioksi siitä että olet käynyt neljässä maassa ja postannut kahdesta. Se ei kommentoi kasvojasi, vartaloasi, tulojasi tai arvoasi. Kliseen suuntaan lyöminen on se vitsi. Käyttäjän suuntaan lyöminen on tuote joka satuttaa ihmisiä, ja ero piti koodata järjestelmäkehotteeseen eikä jättää maun varaan.

Tekoälyistutukset tulivat toisena. Pelkistä oikeista ihmisistä koostuva pakka sovelluksessa johon kukaan ei ole vielä liittynyt on tyhjä huone, ja merkitty tekaistu profiili on aidosti kiinnostava keskustelukumppani. Merkinnästä ei ollut koskaan tarkoitus tehdä valinnaista.

Toteutus

React Cloudflaren päällä. Pino on tarkoituksella pieni, koska kiinnostava tekniikka on mallikerroksessa.

Mallikutsut kulkevat OpenRouterin kautta, joten profiilin uudelleenkirjoittaja ja istutettujen profiilien persoonat istuvat eri malleilla ja voin vaihtaa kumman tahansa koskematta sovelluskoodiin. Uudelleenkirjoittaja pyörii vahvalla ohjeita noudattavalla mallilla, koska rajoitteita on paljon ja yhdenkin rikkominen on se virhe joka lopettaa tuotteen. Istutettujen keskustelut pyörivät jollain halvemmalla ja nopeammalla, koska viive keskustelussa tuntuu suoraan eikä kukaan arvostele proosaa.

Cloudflare AI Gateway on kuvankäsittelyn edessä ja tekee turvallisuusluokittelun kaikelle mitä käyttäjä lataa. Deittituotteessa se ei ole kiva lisä, vaan se on hinta siitä että latauksia ylipäätään sallitaan. Gateway antaa minulle myös välimuistin ja reittikohtaiset kulurajat, ja juuri niin ilmainen jonotuslistatuote selviää kosketuksesta internetiin.

Uudelleenkirjoittaja on se osa jota arvioin kovimmin. Pidin joukon oikeita profiileja, ajoin jokaisen kehoteversion niitä kaikkia vasten ja luin tuotokset yhtä virhettä etsien: malli päättää olla nokkela ihmisen kustannuksella. Isot mallit ajautuvat julmuuteen kun niiltä pyytää rehellisyyttä, koska julmuus on opetusdatassa lähin rehellisyyden naapuri. Korjaus oli lista kielletyistä asioista ja toinen ajo joka luokittelee jokaisen tuotetun lauseen väitteeseen tai ihmiseen kohdistuvaksi ja pudottaa jälkimmäiset. Se maksaa yhden ylimääräisen kutsun uudelleenkirjoitusta kohti. Se kannattaa.

Istutetut profiilit kantavat merkinnän kolmessa paikassa: pakan kortissa, keskustelun otsikossa ja asetuksissa, joissa ne voi kytkeä kokonaan pois. EU:n tekoälyasetuksen mukaan vuorovaikutuksesta tekoälyjärjestelmän kanssa on kerrottava sille joka on vuorovaikutuksessa. Sen rakentaminen sisään ensimmäisestä commitista lähtien oli halvempaa kuin jälkiasennus, ja siitä tuli se ominaisuus jonka ihmiset mainitsevat ensimmäisenä.

Lopputulos

Jonotuslista on auki osoitteessa becringe.org. Ilmoittautumiset ovat toistaiseksi koko lopputulos, ja sanon sen mieluummin suoraan kuin puen jonotuslistan vetovoimaksi.

Merkintä ei maksanut mitään. Kukaan ei ole pitänyt merkittyjä tekoälyprofiileja bugina. Useampi on pitänyt niitä syynä liittyä jonoon.

Mitä tekisin toisin

Rakensin swipe-pakan ennen uudelleenkirjoittajaa, mikä tarkoitti kuukautta käyttöliittymän virittämistä sellaisen tuotoksen ympärille jota en ollut rasitustestannut. Mallin käyttäytymisen olisi pitänyt tulla ensin, ja käyttöliittymä olisi pitänyt piirtää sen ympärille mitä malli oikeasti tekee.

Olisin myös kirjoittanut tekoälyasetuksen mukaiset ilmoitustekstit kaikilla neljällä sivuston kielellä heti alussa. Lakitekstin kääntäminen sen jälkeen kun sävy on lyöty lukkoon on uudelleenkirjoitus, ei käännös.