Llegará un día donde las carreteras estén gobernadas por vehículos sin conductor, y para entonces, más nos vale que trabajos como un reciente estudio sean capaces de asegurar a todas las personas, tanto dentro como fuera de los autos. El trabajo en cuestión cuenta que los coches sin conductor tienen un problema de sesgo.
El estudio del Kings College de Londres examinó hasta ocho sistemas de detección de peatones impulsados por IA utilizados en la investigación de la conducción autónoma. Los investigadores analizaron más de 8.000 imágenes a través del software y descubrieron que los sistemas de vehículos autónomos eran casi un 20% mejores para detectar peatones adultos que niños, y más de un 7,5% mejores para detectar peatones de piel clara que los de piel oscura.
No solo eso. También encontraron que la IA era aún peor a la hora de detectar personas de piel oscura en entornos con poca o nada de luz, lo que hacía que la tecnología fuera aún menos segura por la noche.
Dicho de otra forma, el trabajo cuenta que para los niños y las personas de color, cruzar la calle podría volverse más peligroso en el futuro cercano. Según Jie Zhang, uno de los autores del estudio:
La justicia cuando se trata de IA es cuando un sistema de IA trata a los grupos privilegiados y desfavorecidos por igual, que no es lo que sucede cuando se trata de vehículos autónomos. Los fabricantes de automóviles no divulgan los detalles del software que utilizan para la detección de peatones, pero como generalmente se basan en los mismos sistemas de código abierto que utilizamos en nuestra investigación, podemos estar bastante seguros de que se encuentran con los mismos problemas de parcialidad.
Según contó a Gizmodo Sandy Karp, portavoz de Waymo:
En Waymo, no utilizamos sólo imágenes de cámaras para detectar peatones. En cambio, aprovechamos nuestro conjunto completo de sensores, incluidos nuestros lidares y radares, no solo cámaras, para ayudarnos a detectar activamente los detalles de nuestro entorno de una manera que sería difícil de lograr solo con las cámaras.
En cualquier caso, queda claro que aún falta mucho por hacer antes de que los autos sin conductor sean la norma en las carreteras de los países. El estudio viene a poner énfasis en la idea de que los algoritmos reflejan los sesgos presentes en los conjuntos de datos y las mentes de las personas que los crean, y en este caso, cualquier pequeño sesgo podría llevar a un accidente fatal.