En un futuro cada vez más cercano, la promesa de vehículos autónomos dominando las carreteras nos lleva a considerar la seguridad de esta tecnología. Un reciente estudio del Kings College de Londres ha puesto de relieve una preocupante problemática de sesgo en los autos sin conductor.
PUBLICIDAD
El estudio, que evaluó hasta ocho sistemas de detección de peatones impulsados por inteligencia artificial (IA) utilizados en la investigación de conducción autónoma, arrojó resultados inquietantes, de acuerdo con Gizmodo.
Los investigadores analizaron más de 8,000 imágenes mediante software y descubrieron que los sistemas de vehículos autónomos eran casi un 20% más precisos en detectar peatones adultos que niños. Además, la eficacia para detectar peatones de piel clara superaba en más de un 7.5% a la de piel oscura.
El estudio no se detuvo ahí. También reveló que la IA tenía aún más dificultades para detectar personas de piel oscura en condiciones de poca o ninguna luz, lo que la hacía menos confiable durante la noche.
¿Qué opinan los expertos?
En términos más claros, el estudio sugiere que en un futuro cercano, cruzar la calle podría volverse más peligroso para niños y personas de color debido a la falta de precisión de los sistemas de detección en los autos autónomos.
Jie Zhang, uno de los autores del estudio, detalló: “La verdadera justicia en la IA se logra cuando un sistema trata por igual a los grupos privilegiados y desfavorecidos, y esto no es lo que ocurre en el caso de los vehículos autónomos. Los fabricantes de automóviles no divulgan los detalles del software que utilizan para la detección de peatones, pero dado que generalmente se basan en sistemas de código abierto, es bastante seguro asumir que enfrentan problemas similares de sesgo”.
Sandy Karp, portavoz de Waymo, comentó a Gizmodo: “Los sistemas de detección en nuestros vehículos autónomos están diseñados para funcionar de manera segura en una variedad de condiciones y escenarios, y estamos comprometidos a mejorar continuamente la tecnología para abordar los desafíos que presenta”.
Este estudio resalta la importancia de reconocer que los algoritmos pueden reflejar los sesgos inherentes en los conjuntos de datos y en las mentes de aquellos que los crean. En este contexto, incluso pequeños sesgos podrían tener consecuencias potencialmente mortales, lo que subraya la necesidad de abordar este problema antes de que los vehículos autónomos se conviertan en la norma en las carreteras.
