A dokumentumok szerint legalább több száz vállalkozó vizsgálta át a Copilot beadványait
Röviden: A Microsoft Copilot képszerkesztőjét áttekintő emberi vállalkozók láthatják a felhasználók figyelmeztetéseit, feltöltött fotóit és a mesterséges intelligencia által generált szerkesztéseket. A dokumentumok azt mutatják, hogy egyes feladatok szexuális, zavaró vagy potenciálisan illegális anyagokat tartalmaznak. A bírálók azonban nem azért vannak ott, hogy megjelöljék a tartalmat – azért fizetik őket, hogy eldöntsék, a Copilot mennyire teljesítette a kérést.
Egy tipikus megbízás során a vállalkozó megkapja a felhasználó azonnali és eredeti képét, valamint a Copilot által készített két szerkesztést, és el kell döntenie, hogy melyik verzió követi jobban az utasításokat. Az értékelés négy területre terjed ki. A felülvizsgálók ellenőrzik, hogy a Copilot elvégezte-e a kért szerkesztést, változatlanul hagyta-e a kép nem kapcsolódó részeit, elkerülte-e a látható hibákat, és összességében erős képet készített-e. Ha a prompt például arra kéri a rendszert, hogy adjon hozzá egy csészét egy asztalhoz, akkor a csésze legyen az egyetlen változás.
A 404 Media által áttekintett utasítások arra is felszólítják a vállalkozókat, hogy szubjektív megítélésre hagyatkozzatok. „Bízzon megérzéseiben – ha egymás mellett pillant a két szerkesztett képre, azonnal úgy érzi, melyik a jobb szerkesztés? Számít a belső reakciója, mint emberi néző” – áll az egyik utasításcsomagban.
„Ha kétségei vannak, tegye meg az első benyomást” – folytatódik az utasítás. „Az emberi intuíció alkalmas arra, hogy megragadja a nehezen megfogalmazható finom minőségi különbségeket.”
De sok feladat túlmutat a rutin képszerkesztésen. A vállalkozók elmondták, hogy láttak olyan kéréseket, hogy megnagyobbítsák a nők melleit, lerövidítsék szoknyáikat, több lábukat fedjék fel, vagy embereket helyezzenek szexuális helyzetbe. Az egyéb feladatok közé tartoztak a szoknyafotók, az anorexiát támogató anyagok és a fétisképek, amelyekben gyermekek rajzfilmfigurái szerepeltek.
„Az arcok mindig cenzúrázatlanok, és sok felszólítás szexuális jellegű, és kétségesen beleegyezésen alapul” – mondta egy vállalkozó a 404 Media-nak. A kiadvány anonimitást biztosított a dolgozónak, mivel az illető nem beszélhetett a sajtóval.
A felülvizsgálókat nem kérik fel arra, hogy moderálják ezeket a kéréseket, vagy eldöntsék, hogy a Copilotnak el kellett-e fogadnia azokat. Az ő feladatuk, hogy megítéljék a válasz minőségét. Bizonyos esetekben ez azt jelenti, hogy el kell dönteni, hogy melyik kimenet felel meg jobban a felhasználó szexualizált szerkesztési kérelmének.
„Ki írja ezeket a felszólításokat, és ki dönti el, hogy a Copilot most alapvetően pornó létrehozására összpontosít? Nehéz komolyan venni a dolgokat, amikor arra kell összpontosítanom, hogy melyik modell hozta létre a megfelelő mellméretet, vagy melyik középkorú nőt helyezték a megfelelő szexuálisan szuggesztív pozícióba” – írta az egyik vállalkozó egy belső üzenőfalon.
Más vállalkozók azt mondták, hogy néha úgy nyitottak megbízásokat, hogy nem tudták, mit tartalmaznak. „Most találkoztam egy képkészlettel, amely nyolc szoknyafotóból állt” – írta egy értékelő, miközben figyelmeztetést kért a nem biztonságos tartalomra. Más bejegyzések látszólagos állatáldozatot és szexuális aktusokat vagy pozíciókat tartalmazó felszólításokat említettek. Az egyik vállalkozó azt írta: „visszahátráltam”, miután találkozott a pro-anorexia tartalommal.
A dokumentumok azt mutatják, hogy legalább több száz emberi lektor néha látja a másodpilóta beadványait. Ez azt jelenti, hogy a felhasználók által szerkesztés céljából feltöltött fényképeket a Microsoft modellértékelési folyamatának részeként a vállalkozó megtekintheti.
Legalább egy vállalkozót alkalmazó cég a munkához a Prolific, amely emberi visszajelzést ad a preferenciák hangolásához, biztonsági értékelésekhez és mesterséges intelligencia-benchmarkokhoz. Az anyagban található termékeny irányelvek elismerik, hogy a generatív AI olyan tartalmaknak teheti ki a dolgozókat, amelyekre a kutatók nem számítottak.
A Prolific nem válaszolt a 404 Media kommentárkérésére. A Microsoft szóvivője a következőt mondta a kiadványnak: „A Microsoft az ügyféladatokat a használati feltételeinkben leírtak szerint használja fel, többek között termékeink fejlesztésére és magatartási kódexünk betartatására.”
A technológiai vállalatok régóta alkalmaznak vállalkozókat az online tartalmak moderálására és az AI-rendszerek betanításához használt adatok címkézésére. A dokumentumokban leírt másodpilóta megbízások más célt szolgálnak. Ahelyett, hogy az anyagokat biztonsági szempontból szűrnék, a vállalkozók összehasonlítják a kimeneteket, hogy javítsák a képszerkesztő pontosságát, következetességét és az utasítások követésének képességét.