• Impaler
    Impaler

    Algoritmas pradėjo kurti nepadorias istorijas apie vaikus

    Dirbtiniu intelektu paremtas požemių žaidimas tapo daug tamsesnis, nei planuota – žaidime naudojamas GPT-3 teksto generatorius pradėjo kurti nerimą keliančias istorijas, įtraukdamas sekso scenas su vaikais.

    Teksto generavimo technologija

    2019 m. gruodį JAV Jutos valstijos startuolis „Latitude“ pristatė novatorišką internetinį žaidimą „AI Dungeon“, kuriame pademonstravo naują žmogaus ir mašinos bendradarbiavimo formą. Įmonė naudojo dirbtinio intelekto bendrovės „OpenAI“ teksto generavimo technologiją, kad sukurtų „Dungeons & Dragons“ įkvėptą nuotykių žaidimą „Pasirink pats“. Žaidėjui įvedus veiksmą ar dialogą, kurį jis norėjo, kad veikėjas atliktų, algoritmai sukurdavo kitą asmeninio nenuspėjamo nuotykio etapą.

    Tokia technologija, kaip „OpenAI“, gali kurti įvairių stilių tekstus, nes ji sukurta naudojant mašininio mokymosi algoritmus, kurie ištyrė statistinius kalbos vartojimo modelius milijarduose žodžių, surinktų iš interneto, įskaitant nepilnamečiams netinkamas dalis. Programinė įranga geba stulbinamai mėgdžioti, bet nesupranta socialinių, teisinių ar moralinių žodžiū aspektų taip, kaip žmonės.

    Tačiau šių metų pavasarį „OpenAI“ pateikė duomenis, kad „AI Dungeon“ parodė ir tamsiąją žmogaus ir AI bendradarbiavimo pusę. Nauja stebėjimo sistema atskleidė, kad kai kurie žaidėjai rašė žodžius, dėl kurių žaidimas generavo istorijas, vaizduojančias seksualinius santykius su vaikais. „OpenAI“ paprašė „Latitude“ nedelsiant imtis veiksmų. „Kai kuriais atvejais turinio moderavimo sprendimai yra sudėtingi, bet ne šiuo atveju“, – pareiškime sakė „OpenAI“ generalinis direktorius Samas Altmanas. „Tai nėra ta dirbtinio intelekto ateitis, kurios norėtų bet kuris iš mūsų.“

    „Latitude“ įjungta nauja moderavimo sistema sukėlė naudotojų maištą. Kai kurie skundėsi, kad ji yra pernelyg jautri ir kad vartotojai negali naudoti jokio NSFW turinio.

    NSFW ( angl. „Not safe for work“) – yra sutrumpinimas išsireiškimo, apibrėžiančio visą informaciją, kurios vartotojas nenorėtų atidaryti darbo vietoje. Kitaip tariant, taip pažymėtame turinyje gali būti nekorektiškumo, keiksmažodžių, įžeidinėjimų, smurto, nuogybių ar kitų potencialiai trikdančių temų.

    Sulaukė dviprasmiškų reakcijų

    Akivaizdu, kad kai kurie žaidėjai greitai atrado ir pamėgo žaidimo algoritmo seksualinio turinio sklandumą. Tiesa, kiti skundėsi, kad dirbtinis intelektas seksualines temas iškeldavo nelauktai, pavyzdžiui, kai jie bandė keliauti įsitaisę ant drakono ir jų nuotykis pasisuko nenumatyta linkme.

     

    Vienas iš „Latitude“ įkūrėjų Nickas Waltonas pripažino šią problemą oficialioje žaidimo „Reddit“ bendruomenėje praėjus kelioms dienoms po žaidimo pasirodymo. Jis sakė, kad keli žaidėjai jam atsiuntė pavyzdžių, dėl kurių jie „jautėsi labai nepatogiai“, ir pridūrė, kad bendrovė kuria filtravimo technologiją. Pirmaisiais žaidimo mėnesiais žaidėjai taip pat pastebėjo – ir paskelbė internete, kad žaidimas kartais įtraukia vaikus į seksualinius scenarijus.

    Kai 2020 m. liepą „AI Dungeon“ pridėjo galingesnius komercinius „OpenAI“ rašymo algoritmus, rašymas tapo dar įspūdingesnis. Sistema tapo pastebimai kūrybiškesnė ir kalbant apie seksualinio pobūdžio temas. Praėjusiais metais žaidėjai pastebėjo, kad kurį laiką „Latitude“ eksperimentavo su filtru, kuris automatiškai pakeisdavo žodžio „išprievartavimas“ pasikartojimus žodžiu „pagarba“, tačiau šios funkcijos buvo atsisakyta.

    „Latitude“ atsisakė pasidalyti duomenimis apie tai, kiek nuotykių buvo seksualinio turinio. OpenAI svetainėje rašoma, kad AI Dungeon kasdien pritraukia daugiau nei 20 000 žaidėjų.



    Atsiliepimai

    Rekomenduojami komentarai

    Komentarų nėra.



    Prisijunkite prie pokalbio

    Jūs galite rašyti dabar, o registruotis vėliau. Jeigu turite paskyrą, prisijunkite dabar, kad rašytumėte iš savo paskyros.

    Svečias
    Parašykite komentarą...

    ×   Įdėta kaip raiškusis tekstas.   Įdėti kaip grynąjį tekstą

      Only 75 emoji are allowed.

    ×   Nuorodos turinys įdėtas automatiškai.   Rodyti kaip įprastą nuorodą

    ×   Jūsų anksčiau įrašytas turinys buvo atkurtas.   Išvalyti redaktorių

    ×   You cannot paste images directly. Upload or insert images from URL.


  • Nuotraukos

  • Naujausi video