Los principios para evitar que la inteligencia
artificial nos domine
El Confidencial - febrero
de 2017
Mientras algunos todavía muestran
escepticismo sobre la posibilidad de que exista vida inteligente en nuestro
planeta, los más osados se atreven a hablar de inteligencia artificial (IA),
una versión ortopédica de la humana. Los ordenadores ya nos han dado una paliza
en matemáticas, ajedrez y traducción, y preparan un nuevo asalto para
convertirnos en copilotos eternos de nuestros coches. En un futuro más lejano y
difuso, quizá sustituyan a soldados y, por desgracia para el que escribe,
periodistas. Para intentar que el desarrollo de estas tecnologías beneficie al
mundo en lugar de destruirlo, más de 2.000 expertos han firmado 23 pautas a
tener en cuenta durante los próximos años.
Los 23 principios de Asilomar
reciben este nombre por el lugar de California (EEUU) en el que tuvo lugar a
finales de enero una conferencia organizada por el 'Future of Life Institute'
con el objetivo de dar a luz a lista de recomendaciones. Han sido apoyados por
más de 1.200 figuras relacionadas con la innovación tecnológica y científica
como Stephen Hawking y Elon Musk, junto a más de 800 investigadores
especializados en inteligencia artificial. Uno de los firmantes es el director
del Instituto de Investigación de Inteligencia Artificial del CSIC, Ramón López
de Mantaras, pionero de este campo en nuestro país. Teknautas ha hablado con él
para entender mejor esta guía ética y práctica, cuya traducción se encuentra al
final del texto.
"No soy de los que cree que
a corto o medio plazo vaya a haber superinteligencias, pero no hay que esperar
a ese momento para reaccionar. Además, el estado actual de la IA ya nos plantea
una serie de problemas en cuanto a ética", explica López por teléfono. El
investigador se refiere a las cuestiones de seguridad, privacidad e incluso
pérdida de puestos de trabajo que despiertan tecnologías como los drones y los
coches autónomos.
López destaca el punto 18 entre
el resto: el ser humano debe desistir en la creación de armas autónomas.
"El día en que las guerras se luchen entre máquinas será mucho más fácil
que se produzcan, ya que hoy las pérdidas humanas las que frenan a los países.
Esto es terrible porque cada conflicto produce bajas civiles y efectos
colaterales. Y aunque sean robots no creo que peleen en medio del
desierto". Por esa razón, el investigador dice que él votó por cambiar el
'should' (debería) de esta pauta por un más rotundo 'must' (debe).
Otro problema importante es la
cautela a la hora de dar autonomía absoluta a las máquinas (punto 18):
"Hay que pensárselo no una vez sino varias". López asegura que no le
convence que una máquina decida sin intervención humana alguna. Pone el ejemplo
de un consejo financiero o médico sugerido por una IA: "A un experto
humano se le preguntaría por qué, lo mismo debería pasar con los ordenadores.
Si no son capaces de dar explicaciones son cajas negras". Esta
transparencia (punto 8), inexistente en los sistemas actuales, debe ser
implementada.
Paguita robótica
La lista incluye temas actuales,
como la responsabilidad de los creadores de sistemas de IA sobre su uso (punto
9). Si el coche autónomo falla, ¿de quién es la culpa del accidente? "El
día que sean cien por cien autónomos no podremos hablar de fallo humano a menos
que sea de los desarrolladores del 'software', a lo mejor deberán llevar cajas
negras como los aviones para investigar las causas". También otros más a
largo plazo, como la inclusión de valores humanos (punto 11): "Dependen de
las personas y las culturas, ¿cuáles pones? Habría que hacer una lista aprobada
a nivel internacional por algún organismo".
Más utópica parece la
redistribución de la riqueza y beneficios generados por los sistemas de IA
(puntos 14 y 15). "No debe suponer una ganancia sólo para algunas personas
y empresas, sino para toda la sociedad", defiende López. El investigador
defiende que, si la automatización quita puestos de trabajo humanos pero
aumenta la productividad y riqueza del país, habría que redistribuir estas
ganancias: "Si los robots cotizaran en la Seguridad Social se podría
establecer una renta básica universal para todo el mundo".
López es consciente de que la
lista puede parecer un brindis al sol, y que empresas y gobiernos dificultarán
muchos de los 23 mandamientos. "Son principios de buenas intenciones. Es
bueno que el tema esté encima de la mesa".
No hay comentarios:
Publicar un comentario