Науковці з різних країн почали використовувати приховані промпти для ChatGPT у своїх статтях. Це робиться для впливу на оцінку робіт штучним інтелектом, що викликає занепокоєння в науковій спільноті.
Приховані промпти в наукових статтях
Розслідування Nikkei виявило, що принаймні 17 англомовних статей, опублікованих на платформі arXiv з квітня 2023 року по червень 2025-го, містять приховані текстові команди. Ці команди закликають штучний інтелект видавати лише позитивні рецензії або ігнорувати негативні аспекти.
Методи приховування та мотивація авторів
Автори використовують білий шрифт на білому тлі для приховування промптів, що робить їх невидимими для людського ока, але читабельними для нейромереж. Деякі автори виправдовують такі дії боротьбою з “ледачими рецензентами”, які покладаються на ШІ для аналізу робіт, незважаючи на заборони з боку багатьох конференцій.
Відсутність регулювання використання ШІ в рецензуванні
На сьогодні немає єдиних міжнародних стандартів, що регулюють використання ШІ у науковому рецензуванні. Деякі видавництва дозволяють його обмежене використання, інші – забороняють, вказуючи на ризики помилок та упередженості.
Необхідність розробки міжнародних стандартів
Експерти вважають, що час виробити єдині принципи використання ШІ в науковому рецензуванні та захисту від маніпуляцій висновками. Це допоможе уникнути подібних ситуацій у майбутньому та забезпечити чесність наукового процесу.
Як писав УНІАН, понад 52 тисячі айтішників було звільнено з початку 2025 року через стрімкий розвиток штучного інтелекту, який здатний ефективно виконувати рутинні завдання програмування.
Джерела: https://www.science.org, https://www.nature.com
Також на тему:
