La intel·ligència artificial sembla estar a tot arreu en aquests dies, des disseny d'interiors a home staging . Però un dels usos més coneguts i, possiblement, un dels més controvertits, de la IA ara mateix és ChatGPT.
Si mai ho has fet jugat amb ChatGPT abans, aquí teniu una instantània ràpida de com funciona: un usuari humà introdueix una consulta, com ara 'Escriu-me una recepta nova per fer per sopar' o 'Com he de fer-ho'. decorar la meva habitació de convidats ,' i en pocs segons, ChatGPT escupe una resposta.
Però algunes persones i empreses estan utilitzant ChatGPT per molt més que la preparació d'àpats. Es recolzen molt en el chatbot per escriure-ho tot assaigs d'admissió a la universitat a ressenyes de productes — tot i que de vegades condueix a resultats controvertits.
Com a lector, això pot fer-vos preguntar si heu llegit alguna vegada sense voler-vos alguna cosa que creieu que va ser escrit per un autor humà, però que en realitat va ser produït per un bot. Et preguntes com saber si ChatGPT ha escrit alguna cosa? Vaig xerrar amb uns quants experts per obtenir els seus consells i consells per navegar per aquest nou tèrbol món alimentat per IA en què vivim. Això és el que van dir.
Com diu ChatGPT per saber si ChatGPT ha escrit alguna cosa?
Però primer, em vaig preguntar què diria ChatGPT si li fes aquesta pregunta. Només per divertir-me, vaig crear un compte, vaig escriure 'com saber si ChatGPT va escriure alguna cosa' a la barra de missatges i vaig prémer Intro.
ChatGPT, per descomptat, em va donar una resposta immediatament.
'Identificar si ChatGPT va escriure alguna cosa pot ser un repte, ja que el model té com a objectiu generar text semblant a un humà', va respondre. 'No obstant això, hi ha algunes característiques generals que poden indicar que el text va ser generat per un model de llenguatge'.
Aleshores, em va donar una llista de trets que podrien indicar que un fragment de text havia estat escrit per un bot, com ara repetir les mateixes frases o idees diverses vegades o semblar genèric i faltar detalls específics. ChatGPT també diu que la seva escriptura pot mancar d'anècdotes i emocions personals.
veient les 11:11
Una altra explicació, segons ChatGPT? Si la informació sembla obsoleta, perquè ChatGPT només es va formar en dades fins al gener de 2022.
Al final de la seva resposta, ChatGPT va intentar tranquil·litzar-me, escrivint-me que si tinc 'preocupacions o dubtes concrets sobre un text, no dubteu a preguntar-ho i faré tot el possible per ajudar-vos'.
Com saber si ChatGPT ha escrit alguna cosa
D'acord, va ser un experiment divertit, però ara el que havien de dir els experts humans reals.
El primer que cal tenir en compte és que el text de ChatGPT es genera mitjançant una indicació introduïda per un humà. Per això, l'usuari humà pot modificar el missatge una i altra vegada per produir la veu, l'estil, la longitud i el tipus de text específics que estan buscant. Això pot fer que sigui sorprenentment difícil saber si ChatGPT ha escrit alguna cosa.
'En la meva investigació, he descobert que fins i tot els humans ben entrenats lluiten per detectar de manera fiable el text generat', diu. Liam Dugan , que està investigant una varietat de preguntes relacionades amb els chatbots mentre treballava en el seu doctorat a la Universitat de Pennsilvània. (Ell i els seus col·legues van crear un joc en línia, anomenat ' Text real o fals ”, on les persones poden provar les seves habilitats de detecció de text generades per IA; proveu-ho per vosaltres mateixos.)
Segons Dugan, no hi ha paraules o frases concretes que indiquin que un text ha estat escrit per un chatbot. Per tant, malauradament, no podeu fer només un 'Control + F' per a un verb específic.
Altres experts es van fer ressò d'aquest sentiment.
'Desafortunadament, no sembla que hi hagi una manera fàcil de detectar el text escrit per ChatGPT o AI en general', diu Xavier Harding, productor de contingut de Mozilla, l'empresa darrere del navegador d'Internet Firefox. 'Hem vist als creadors de ChatGPT, OpenAI, provar la seva mà per oferir mètodes per detectar text escrit amb IA i han hagut de recordar-los, dient que no hi ha una manera precisa de detectar el text generat per IA'.
Compte amb els errors de copiar i enganxar.
Però només perquè pot ser difícil d'entendre no vol dir que s'hagi perdut tota esperança. Com que els humans són els que provoquen ChatGPT, és possible que vegeu algunes pistes súper òbvies que alguna cosa va ser escrita per un chatbot.
'He vist que la gent inclou accidentalment comentaris secundaris del robot de xat com ara:' És clar, aquí teniu un article de notícies sobre la detecció', diu Dugan.
què vol dir 1234
Saber detectar 'al·lucinacions'.
Deixant de banda aquest tipus d'errors, els experts també recomanen estudiar acuradament un fragment de text per a la precisió dels fets. Com més nínxol sigui la informació, més probable és que un chatbot simplement inventi un fet o cometi alguna cosa malament, diu Dugan.
Les persones que treballen en el camp de la IA anomenen aquests errors 'al·lucinacions'.
'De vegades, la IA dirà coses que no són certes, senzillament', diu Harding. 'Això pot ser fàcil de dir que estàs llegint un text elaborat per IA en lloc d'una persona, tot i que pot ser difícil saber si alguna cosa és una al·lucinació si es tracta d'un tema amb el qual no estàs familiaritzat'.
Si no esteu molt familiaritzat amb el tema sobre el qual esteu llegint, feu una cerca ràpida en línia per verificar la informació que teniu davant, afegeix Harding.
per què veig el 9 11 al rellotge?
Compte amb l'escriptura que sembli massa general.
Un altre signe que alguna cosa va ser escrit per un chatbot és l'excés de generalitat (que el mateix ChatGPT també va esmentar). Si un text sembla massa ampli, com ara una ressenya de pel·lícules que no esmenta cap dels membres del repartiment pel nom, per exemple, potser voldreu desconfiar.
'Per tal d'evitar cometre errors, els chatbots sovint escriuen text genèric', diu Dugan. 'Donaran respostes molt segures i previsibles i intentaran evitar la necessitat d'inventar informació. Tanmateix, això sovint pot resultar estrany per a un lector humà. Els lectors haurien de parar atenció a qualsevol cosa que sembla que està evitant donar informació específica'.
Llegeix més que les primeres frases.
Un altre consell: llegiu el màxim de text possible, en lloc de només la primera frase o dues. Gary Marcus , un professor emèrit de psicologia i ciències neuronals a la Universitat de Nova York, diu que pot ser més fàcil determinar si alguna cosa va ser escrita per un chatbot quan el text és més llarg.
'És molt difícil distingir-ho a partir d'una sola frase, perquè estan entrenats en quantitats al·lucinants de text per sonar el més humà possible', diu. 'Aquests sistemes sovint surten dels rails en converses més llargues, però no necessàriament en fragments curts'.
I què passa amb els detectors de chatbots?
Busqueu en línia i probablement us trobeu amb eines que diuen poder detectar text generat per IA. Actualment, Dugan està duent a terme un estudi a gran escala per provar l'eficàcia d'aquests detectors, però, fins ara, les primeres proves no són prometedores.
'Tots els nostres resultats suggereixen que els detectors no són fiables i que no hauríeu d'utilitzar-los en cap escenari de gran risc', diu. 'Moltes empreses afirmen poder detectar el text generat amb una precisió del 99% o superior, però aquestes afirmacions són falses. Els detectors sovint marquen el text escrit per humans com a generat per chatbot i es poden enganyar fàcilment'.
