Los investigadores activaron un interruptor 'malvado' en el modelo de IA diseñado para encontrar curas para enfermedades. Este ha sido el resultado.
Fabio Urbina es un experto en inteligencia artificial que crea modelos de aprendizaje automático para la famacéutica Collaborations Pharmaceuticals, especializada en la búsqueda de medicamentos para enfermedades raras. Presentó en una conferencia para el control de las armas biológicas, un experimento que le tiene profundamente preocupado.
Según cuenta en una entrevista a The Verge, a este
científico se le ocurrió experimentar con el lado oscuro de su IA, ya que
deseaba saber, ¿qué podía ocurrir si un usuario malintencionado cambia los
parámetros? Es decir, penaliza a la IA por crear moléculas seguras, y la premia
al crear moléculas tóxicas. El resultado le dejó sin palabras: la IA creó
40.000 armas químicas potencialmente letales y mortales, en solo 6 horas.
Entre las armas propuestas por la Inteligencia Artificial se
ha identificado moléculas muy similares al VX, el agente nervioso más peligroso
que existe, prohibido por las Naciones Unidas. Una mínima cantidad en el aire
hace que las personas que lo respiran, paralicen sus pulmones. En un minuto
mueren ahogadas.
Para añadir aún más preocupación a este experimento, el
investigador confiesa que estos resultados se pueden obtener con software
gratuito de código abierto, que está disponible para todo el mundo. Al igual
que las bases de datos de toxicidad de las moléculas. Es ciencia compartida que
al ser abierta favorece la investigación, pero cuando se combina con una IA,
todo cambia.
Puedes leer el informe completo en la revista científica
Nature Machine Inteligence. Aquí.
0 Comentarios
Nos interesa saber que piensas. Danos tu opinión