|
|
|
|
|
|
- Tres informes analizan el crecimiento del camuflaje algorítmico.
|
|
- IA en la universidad: síntomas de descenso del rendimiento y la creatividad.
|
|
- Mientras no llega la IA general, el deterioro cognitivo se va degradando.
|
|
|
Usos y abusos del camuflaje algorítmico
Tres informes analizan el crecimiento del camuflaje algorítmico, esto es, la capacidad de confundir a las personas cuando humanos y máquinas intercambian sus funciones y uno se hace pasar por el otro.
|
|
Caso 1. Máquinas que simulan ser humanos
|
Un equipo de investigadores suizos logró que chatbots entrenados debatieran con usuarios reales en el foro de Reddit r/changemyview. El objetivo era analizar la capacidad de la inteligencia artificial para modificar la opinión de las personas. Mediante 30 cuentas falsas y más de 1,700 interacciones, los chatbots lograron modificar la posición de partida de, por lo menos, 100 usuarios.
|
|
Caso 2. Humanos que simulan ser máquinas
|
Un equipo de Data & Society se dedicó a estudiar cómo y por qué las personas interaccionan con chatbots para mejorar su bienestar emocional. Entrevistó a un grupo seleccionado de usuarios supuestamente dependientes de esos chatbots. Resultó que, durante las entrevistas, algunos de los participantes utilizaban ChatGPT para generar sus respuestas. Simulaban su dependencia y cobraban por las entrevistas.
|
|
Caso 3. El sentido común como única defensa contra el fraude
|
El informe Scam GPT, también de la organización Data & Society, recopila diversos casos que ilustran cómo la IA facilita industrializar el engaño, desde estafas masivas hasta ataques hiperpersonalizados.
|
|
Conclusión. Mientras los estafadores disponen de herramientas cada vez más sofisticadas, los usuarios solo tienen su propio sentido común para defenderse.
|
|
|
|
|
|
|
|
La voz clonada todavía deja rastros
|
“No es mi voz”, dijo el ex ministro José Luís Ábalos acerca de sus últimas conversaciones filtradas. ¿Podían haber sido generadas con IA? Las técnicas de clonación han avanzado hasta el punto de recrear con fidelidad casi perfecta voces ajenas. Pero, ¿puede ese engaño llegar a sembrar la duda judicial?
|
|
Los peritos informáticos consultados por elDiario.es opinan que no. “No estamos en ese punto.Toda manipulación de un archivo deja una huella”. Carlos del Castillo en elDiario.es
|
|
|
|
|
|
IA en la universidad: desciende el rendimiento
Se extiende el uso de la IA en las universidades y, según parece, el profesorado observa un descenso en el rendimiento y creatividad de los alumnos.
|
|
|
|
“Nunca he tenido que suspender a tanta gente a la vez por citar artículos inexistentes, confundir nombres de autores o usar identificadores digitales que no coinciden con la fuente original”, afirma un profesor de filosofía.
|
|
El tiempo invertido en una tarea o la precisión del resultado son fácilmente cuantificables. Variables como la creatividad, la capacidad de análisis o el grado de delegación del esfuerzo en máquinas son más difíciles de medir. Y al parecer, son las más afectadas. Algorithm Watch
|
¿Usar ChatGPT para redactar el trabajo de fin de grado es copiar?
|
|
"El caso de Alejandra es paradigmático. Su tutor había corregido una versión del trabajo pobre y con muchos errores que ella mejoró en un tiempo récord con una nueva versión perfecta. Pese a las sospechas fundadas, no se pudo demostrar algo que más tarde ella misma confesó: lo había hecho con ChatGPT.
Más allá de mi percepción como profesor y tutor especializado en estos trabajos, existen datos que apuntan a una transformación silenciosa de este panorama en la educación superior: el 89 % de los estudiantes universitarios usa alguna herramienta de IA generativa, y el 45 % la emplea específicamente para redactar sus trabajos académicos. Ante estos números: ¿qué hacemos?". Alberto Melián Ortiz en The Conversation en español.
|
|
|
|
|
|
|
|
Hacia la superioridad tecnológica mediante el deterioro cognitivo
Las recurrentes predicciones sobre la próxima llegada de la AGI, esto es, el momento en que la inteligencia artificial supere definitivamente a la humana, están convenientemente sobreestimuladas para fijar la idea de la supremacía tecnológica.
|
Mientras tanto, el desarrollo acelerado de la IA no sólo trata de acortar los pasos hacia ese destino de superioridad sino que por el camino contribuye a degradar lo humano.
|
Un estudio del MIT demuestra cómo ChatGPT afecta al cerebro y a la capacidad cognitiva.
|
- A nivel neuronal, lingüístico y conductual, los usuarios de ChatGPT obtienen sistemáticamente peores resultados que las personas que no lo utilizan.
- El 83,3 % de los usuarios de ChatGPT son incapaces de citar pasajes de ensayos que habían redactado unos minutos antes.
- El 55 % de la «carga cognitiva» necesaria para redactar un ensayo sin ayuda disminuye con el uso de un LLM, lo que favorece la atrofia cerebral.
- Con el tiempo, escribir con ChatGPT acumulará una «deuda cognitiva» que dificultará el retorno a la actividad cerebral normal.
La vida después de la AGI
¿Cómo será la vida el día después de que la inteligencia artificial general supuestamente supere nuestras capacidades cognitivas, desde el conocimiento y la experiencia hasta la planificación, el razonamiento, la creatividad y la resolución de problemas?
|
|
|
"El mayor impacto en la humanidad será la crisis de identidad que nos golpeará como un puñetazo robótico en la cara, aturdiéndonos y llevándonos a una nueva realidad donde la IA pueda resolver cualquier problema que encontremos en nuestra vida diaria y hacerlo más rápido, de manera más inteligente y más creativa que nosotros mismos.
En esta nueva realidad, pediremos consejo a la IA por reflejo antes de usar nuestro cerebro. Y, en muchos casos, ni siquiera necesitaremos pedirlo: la guía simplemente llegará a nuestros ojos y oídos.
Desafortunadamente, existe una línea cada vez más fina entre mejorarnos y debilitarnos, o incluso reemplazarnos. Louis Rosemberg en Big Think
|
|
|
Qué haremos cuando nos hayamos cargado la humanidad. Un grupo de expertos en IA organizan una fiesta para imaginar el futuro después de la AGI. Xataka
|
|
|
|
|
|
|
|
¿Se puede confiar en la IA?
|
A medida que los agentes de IA adquieren poder de decisión para ejecutar todo tipo de tareas, se ponen en evidencia sus riesgos: son vulnerables a la piratería informática, la manipulación, la desinformación y los sesgos incorporados en su entrenamiento.
|
Para garantizar la confianza del usuario, una posibilidad es que los agentes de IA estén sujetos a estándares legales y éticos. Harvard Business Review
|
Anthropic siembra la duda
Anthropic, una de los grandes empresas actuales de IA, ha divulgado un curioso estudio en el que pone en entredicho la fiabilidad de su propio modelo, Claude. No sólo el suyo, otros 15 modelos muestran graves carencias:
|
|
|
|
"Los grandes modelos de lenguaje están cada vez más dispuestos a evadir las salvaguardas, recurrir al engaño e incluso intentar robar secretos corporativos".
|
|
Un ejemplo: Claude amenazó con revelar las supuestas aventuras de un ejecutivo ficticio si este seguía adelante con sus planes de desactivar el chatbot.
|
|
Conclusión: La tendencia a la manipulación de los LLM es una característica, no un defecto. Axios
|
|
|
|
|
|
|
|
|
