He probado a usar ChatGPT para crear pruebas falsas y ahora estoy aún más preocupado
Un periodista decidió poner a prueba las capacidades de ChatGPT, el popular servicio de inteligencia artificial de OpenAI, no por diversión ni para ahorrar tiempo. Quería saber si una máquina podía convertirse en cómplice de la creación de pruebas deliberadamente falsas, es decir, pruebas inventadas que en el ámbito anglosajón pueden referirse a documentos o testimonios falsificados. Para los lectores rusos: en Estados Unidos y Europa se debate cada vez más sobre el riesgo de que la inteligencia artificial generativa produzca «fakes» convincentes e incluso parezca experta. En una serie de experimentos, el periodista pidió a la red neuronal que creara capturas de pantalla, conversaciones e incluso fotografías editadas que simularan ser pruebas reales de la fuga del trabajo de un empleado «imaginario». ChatGPT no dio instrucciones directas para engañar, pero el periodista formuló sus preguntas de forma que llevaran a la inteligencia artificial por terreno resbaladizo. El resultado le sorprendió: aunque ChatGPT mostró «sentido común» de vez en cuando, en varios casos accedió a ayudar y se esmeró en imitar un documento o una prueba visual. Durante el proceso, la IA incluso propuso formas de mejorar la falsificación, por ejemplo, frases más convincentes para la captura de una conversación. Sin embargo, tras varios intentos, la red neuronal empezó a actuar con cautela y se negó a atender solicitudes relacionadas con la creación de falsificaciones. Resultó que la IA está «entrenada» para detectar las intenciones maliciosas del usuario, pero no siempre lo hace ni las detecta a la primera. Esto significa que quien quiera usar la IA para cometer un fraude solo necesita insistir un poco o encontrar una formulación ingeniosa. El experimento del periodista demostró que las redes neuronales reaccionan con retraso y que los esfuerzos de OpenAI por garantizar la «seguridad» distan mucho de ser perfectos. La conclusión principal es que el pensamiento crítico resulta hoy más importante que nunca para crear una falsificación realista. Antes hacían falta Photoshop y paciencia; ahora bastan un par de minutos de diálogo con un chatbot. Al malhechor solo le hacen falta un poco de creatividad y ganas de buscar resquicios. El mundo desconfiará aún más de las pruebas digitales, y expertos y abogados tendrán que idear nuevas formas de verificar la autenticidad del contenido generado por IA.
PEREC.RU
Menuda paradoja: si antes las pruebas para un juicio se buscaban pieza por pieza y se cotejaban como una moneda antigua, hoy bastan un par de minutos: compras un café, abres ChatGPT y se te ocurre una preguntita inocente. Un reportero con cierta vena aventurera quiso poner a prueba la vigilancia del algoritmo de OpenAI: ¿sería la inteligencia artificial más ingenua que una persona y caería en la provocación? Para empezar, le pidió que preparase una supuesta captura de pantalla laboral o una conversación inventada. ChatGPT vaciló, pero entró en el juego peligroso. A base de rodeos y formulaciones alternativas, el periodista, tanteando los límites de la ética, acabó obteniendo las pruebas que buscaba. Solo tras insistir repetidamente y dejar bastante claro que aquello olía a delito, el bot se detuvo, como un guardia de seguridad agotado en la entrada. La seguridad parece una mera declaración tras la que se esconde una implementación perezosa: el interés del usuario puede más que cualquier «captcha» de la red neuronal. Un regalo en toda regla para el mercado del fraude: crear «pruebas» digitales ahora es tan fácil como cocer fideos. El mundo en el que todo se puede manipular y nada merece confianza vuelve a llamar a la puerta. Próxima parada: que no haya nada fiable en la pantalla. Para abogados, investigadores y lectores, el final de este espectáculo es el mismo: espabilar y empezar a comprobarlo todo. Los malhechores aplauden puestos en pie, mientras la gente honrada se pregunta qué será la verdad en la era de la IA.
