Altre 11.000 ricerche fraudolente (undicimila) sono state ritirate dopo essere state pubblicate.
Non parliamo di ricerche con metodi errati o conclusioni sbagliate, stiamo parlando di frodi.
Fatte dagli stessi scienziati che vogliono imporvi farmaci, trattamenti, vaccini e diete.
ARTICLES_SUMMARY：John Wiley and Sons, un importante editore accademico, sta attualmente ritrattando più di 11.300 articoli scientifici “peer-reviewed” che aveva precedentemente pubblicato. Questi articoli erano un tempo considerati scienza d’avanguardia e sono stati citati numerose volte da altri ricercatori accademici. Ora questi articoli scientifici, che spesso si basavano sui soldi dei contribuenti per il finanziamento della ricerca, sono […]
Inoltre, l’editore di 217 anni ha annunciato la chiusura di 19 riviste a causa di frodi di ricerca su larga scala. Gli articoli falsi contenevano spesso frasi senza senso generate dall’intelligenza artificiale per evitare il rilevamento del plagio. Esempi includono “cancro al seno” riferito a “pericolo del seno” e “dinamica dei fluidi” scritto come “flusso viscoso”. In un articolo, “intelligenza artificiale” è stata definita “coscienza contraffatta”.
Questi problemi sistemici di frode hanno danneggiato in modo significativo la legittimità della ricerca scientifica e l’integrità delle riviste scientifiche. L’industria editoriale accademica, valutata quasi 30 miliardi di dollari, si trova ad affrontare una crisi di credibilità.
Gli scienziati stanno prendendo scorciatoie utilizzando l’intelligenza artificiale in modo fraudolento
Gli scienziati di tutto il mondo affrontano un’enorme pressione per pubblicare, poiché le loro carriere sono spesso definite dal prestigio delle loro pubblicazioni sottoposte a revisione paritaria. I ricercatori chiedono a gran voce fondi e tagliano gli angoli utilizzando riferimenti irrilevanti e intelligenza artificiale generativa. Ad esempio, un articolo scientifico dovrebbe includere citazioni che riconoscano la ricerca originale che ha informato l’articolo attuale. Tuttavia, alcuni articoli presentano un elenco di riferimenti irrilevanti per far sembrare l’articolo legittimo. In molti casi, i ricercatori si affidano all’intelligenza artificiale per generare questi riferimenti di citazione, ma molti di questi riferimenti non esistono o non si applicano all’articolo in questione. In un gruppo di studi ritirati, e-mail di contatto quasi identiche sono state registrate a un’università in Cina, sebbene pochi, se non nessuno, degli autori risiedesse lì.
L’intelligenza artificiale generativa viene anche utilizzata per mascherare il plagio in nuovi articoli scientifici. Molti di questi articoli fraudolenti contengono passaggi dal suono tecnico generati dall’intelligenza artificiale. Questi passaggi vengono inseriti a metà dell’articolo in modo che il processo di revisione paritaria non possa rilevare le buffonate. Queste frasi di intelligenza artificiale distorte sostituiscono termini reali della ricerca originale, in modo che il plagio non venga rilevato dagli strumenti di screening.
Guillaume Cabanac, ricercatore di informatica presso l’Université Toulouse III-Paul Sabatier in Francia, ha sviluppato uno strumento per identificare tali problemi. Lo strumento si chiama “Problematic Paper Screener”. Esamina un vasto corpus di letteratura pubblicata, circa 130 milioni di articoli, alla ricerca di vari segnali d’allarme, tra cui “frasi torturate”. Cabanac e i suoi colleghi hanno scoperto che i ricercatori che tentano di eludere i rilevatori di plagio spesso sostituiscono termini scientifici chiave con sinonimi generati da generatori di testo automatici.
“L’intelligenza artificiale generativa ha appena consegnato loro un biglietto vincente della lotteria”, ha affermato Eggleton di IOP Publishing. “Possono produrre questi documenti a basso costo e su larga scala, mentre i metodi di rilevamento non hanno ancora raggiunto il livello. Vedo solo questa sfida crescere”.
Circa l’1% di tutti gli articoli scientifici pubblicati sono generati da computer
Infatti, un ricercatore dell’University College di Londra ha scoperto di recente che circa l’uno per cento di tutti gli articoli scientifici pubblicati l’anno scorso, circa 60.000 paper, sono stati scritti da un computer. In alcuni settori, ciò equivale a 1 paper su 5 scritto da un computer.
Ad esempio, un articolo pubblicato di recente in Surfaces and Interfaces sulla rivista Elsevier , conteneva la frase: “certamente, ecco una possibile introduzione per il tuo argomento”. I ricercatori stanno utilizzando chatbot AI e modelli linguistici di grandi dimensioni (LLM) senza nemmeno guardare cosa viene trascritto per la pubblicazione. Una rapida modifica scoprirebbe che questa frase è stata scritta da un computer. I ricercatori, i revisori paritari e gli editori non notano i termini errati di base generati dall’IA, quindi cos’altro in questi articoli di ricerca è fabbricato, plagiato o inventato da un computer?
La consulente per l’integrità scientifica Elisabeth Bik ha affermato che gli LLM sono progettati per generare testo, ma non sono in grado di produrre idee fattualmente accurate. “Il problema è che questi strumenti non sono ancora abbastanza buoni per essere considerati affidabili”, afferma Bik, indicando un termine chiamato “allucinazione”. Bik ha affermato che gli LLM “inventano cose”.
La fiducia cieca nell’IA sta danneggiando l’integrità degli articoli scientifici. Ci vogliono forti capacità di ragionamento e discernimento per orientarsi nella natura inaffidabile, fraintesa e sbruffone dei grandi modelli linguistici dell’IA.
Joannenova.com
ScientificAmerican.com
Fonte: https://gnews.org/m/2644700
Siamo entusiasti di comunicarvi la partnership tra Oggi Notizie e cazzeggiando, un social libero da CENSURE, Intelligenza Artificiale, e algoritmi di controllo. Con il nuovo social cazzeggiando hai la possibilità di pubblicare tu stesso notizie e argomenti di tuo interesse, aprire gruppi pubblici o privati e interagire con tutti gli iscritti attraverso una chat in tempo reale. Cazzeggiando preserva e promuove la possibilità di esprimersi e condividere opinioni, incoraggiando una discussione rispettosa e civile tra gli utenti.
Cazzeggiando non solo è totalmente gratuito, ma chi volesse sostenere il progetto sottoscrivendo un abbonamento avrà la possibilità di GUADAGNARE invitando amici ad iscriversi e monetizzare tramite i contenuti che pubblicherà
