«Los teléfonos han ido evolucionando hasta los smartphones, los cuales continúan siendo modificados cada año. Lo mismo está sucediendo con los vehículos, que al igual que los smartphones, cada año reciben modificaciones, pero ahora se trata de un cambio mayor, un cambio que nos hace preguntar ¿estamos listos para asumir todas las responsabilidades? «
Estudiante de Diseño Industrial 4° Semestre
La idea de un vehículo autónomo se había catalogado como una idea futurista, pero hoy en día somos conscientes de que cada vez está más cerca de convertirse en una realidad. Si bien, se han mencionado distintas versiones de ello en múltiples libros y películas de ciencia ficción, es de suma importancia que antes de lanzar una tecnología altamente revolucionaria al mercado, ésta sea probada y perfeccionada para asegurarse de que, además de cumplir con las expectativas de seguridad, estética, funcionamiento y conciencia ecológica, exista la evidencia de que serán capaces de ajustarse efectivamente a las problemáticas éticas y normativas que surgirán inevitablemente a partir de este cambio.
El modelo de vehículo autónomo sobre el cual se discute en este ensayo, es aquel que tiene la capacidad de conducir por su propia cuenta durante todo el recorrido. Su tecnología de punta, como detectores, cámaras, sensores, GPS y radares, le permiten analizar las condiciones del entorno para seleccionar la mejor decisión. El pasajero únicamente debe registrar la dirección y ruta de preferencia (de la Barrera & Valero, 2019, p. 141). No cabe duda de que el siglo XXI es el auge de la tecnología, sin embargo, aunque el cambio de vehículos manuales a autónomos marcaría un cambio histórico, también marcaría un cambio social y económico. Ferrando (2018) señala: “Desde la perspectiva posthumana, la tecnología debe comprender todas sus implicaciones, incluyendo sus impactos sociales y políticos». (18:23)
Sus beneficios son claros: disminución de las cifras de accidentes vehiculares, disminución del tráfico, menor contaminación, mayor tiempo libre, mejor servicio de transportación, menores costos de mantenimiento, entre muchas otras (Larco, 2018, 3:05). Pero no hay que centrarnos únicamente en lo positivo, necesitamos darnos cuenta de que también implican riesgos y desventajas para la sociedad. Los seres humanos siempre estamos tratando de mejorar no únicamente nuestra persona, modificando nuestra apariencia con cirugía plástica, usando maquillaje, poniéndonos en forma o educándonos al leer y al tomar clases, sino que también tratamos de renovar nuestro entorno, nuestras casas y nuestros vehículos. Esta constante búsqueda por mejorar nuestro alrededor para facilitarnos la vida ha dado como resultado todos aquellos artefactos que usamos en nuestra vida cotidiana, como los vehículos, los refrigeradores, las lavadoras, el internet, los teléfonos, las computadoras o las tabletas.
Los teléfonos han ido evolucionando hasta los smartphones, los cuales continúan siendo modificados cada año. Lo mismo está sucediendo con los vehículos, que al igual que los smartphones, cada año reciben modificaciones, pero ahora se trata de un cambio mayor, un cambio que nos hace preguntar ¿estamos listos para asumir todas las responsabilidades?
La inteligencia artificial (IA) fue diseñada para replicar la inteligencia humana, por medio de algoritmos y lenguajes de programación, en máquinas y sistemas informáticos que actúan y piensan como humanos y de manera racional. (García, 2019, p. 7). Existe la idea de que la IA es capaz de resolver tareas con una mejor ejecución que un ser humano. Sin embargo, no debemos confundir el razonamiento humano con el de una máquina o un sistema, “aunque detrás de su razonamiento exista un grupo de personas encargadas de su óptimo desarrollo, se ha comprobado que el cerebro humano es imposible de duplicar” (López de Mántaras, citado en García, 2019, p. 10).
La autonomía sin necesidad de un conductor, es resultado de la pérdida de privacidad (Kaur & Rampersad, 2018, p. 90). El vehículo necesitará recibir información detallada tanto sobre el conductor y los pasajeros, como del destino y la localización. La ciberseguridad debe ser priorizada por las empresas ya que existe el riesgo de que su sistema sea hackeado por ciberdelincuentes, quienes pueden usar los datos personales para actividades ilícitas o incluso pueden manipular el software del mismo y controlar sus acciones, poniendo en riesgo la vida del conductor, los pasajeros, los peatones y otros conductores.
Adquirir un vehículo autónomo implicaría confiarle la vida y la privacidad no únicamente al desarrollador del software, y por ende a la empresa, sino también a la máquina. El ser humano se ha considerado superior a otros seres vivos desde las civilizaciones antiguas; como claro ejemplo está la cultura griega, en donde para ser considerado anthropos (humano) se debía cumplir con tres características: ser un animal humano (especismo), no ser un dios o una diosa y no ser un bárbaro (Ferrando, 2017, 1:53). Hasta la fecha, los seres humanos somos los únicos que tenemos este poder de elección, ningún otro ser vivo puede tomar decisiones por un humano, pero con los vehículos autónomos, el control estaría en manos de la tecnología.
Al otorgarle el poder de tomar decisiones que afectan la vida de otros seres humanos a una máquina, se le están atribuyendo características humanas como el razonamiento y la moral, cambiando las bases del modelo antropocentrista. Bostrom & Yudkowsky (2011) destacan: “Aunque la IA actual, ha traído pocos problemas éticos, los cuales ya no están presentes en las plantas de poder ni en los vehículos, la búsqueda de algoritmos orientados a unpensamiento más humano presagia complicaciones predecibles” (p.18).
Tomemos como ejemplo la primera versión del dilema del tranvía, en donde se debe elegir entre sacrificar la vida de un trabajador o de cinco trabajadores. Este dilema, publicado en un artículo en 1967, ha sido desde entonces una de las problemáticas éticas más discutidas, pues no existe una respuesta correcta, una que salve a todos los sujetos (Pachter, 2018, 0:55). Si en tantos años, miles de personas han analizado el mismo escenario, así como nuevas versionescuestionando cuál es la mejor opción, no podemos confiar en que un vehículo podrá decidir lo más ético en una fracción de segundo.
El programador del software podría plantear múltiples escenarios posibles, pero a la hora de decidir la vida de quién sacrificar, deberá elegir las características de los sobrevivientes, es decir, deberá darle prioridad a la vida de una persona de acuerdo a sus características, ya sea su edad, su género, grado de estudios, clase social, etc. El software del vehículo estaría analizando a los humanos, favoreciendo y discriminándolos según los algoritmos predeterminados (Lin, 2015, 2:45). Al hacer esto, aquella igualdad por la que la sociedad ha luchado tanto a lo largo de la historia, y que continúa defendiendo en la actualidad, se pondría en riesgo con la diferencia de que ahora no sería un ser humano discriminando,sino un conjunto de algoritmos.
Las consecuencias normativas también son un problema, pues los vehículos autónomos podrían implicar cambios en las leyes de tránsito. En el caso de un accidente, ¿quién es el culpable? ¿el vehículo, la empresa, el programador o el dueño? (de la Barrera & Valero, 2019, p.150). Con los vehículos actuales existe una clara diferencia entre el ser humano y la máquina; si sucede un accidente el culpable es la persona que iba manejando o aquella que no siguió las leyes de tránsito. Pero en este escenario, en donde nadie se encuentra manejando sino que es el vehículo que fue programado para tomar decisiones por su propia cuenta, resulta difícil encontrar un culpable; un vehículo no puede pagar una infracción, no puede ir a la cárcel.
La empresa y el programador se aseguran de que funcione eficientemente, pero siempre hay un margen de error que el dueño debe considerar antes de comprar el vehículo. En el caso de un escenario imprevisto, si nosotros tuviéramos el control, nuestra decisión sería por instinto y temor, sin intencionalidad ni maldad. En cambio, si retomamos el ejemplo en donde el programador es el encargado de seleccionar la vida de quién será sacrificada en escenarios específicos, se consideraría como homicidio premeditado (Lin, 2015, 0:59).
La sociedad al igual que sus necesidades se encuentran cambiando constantemente. No resulta sorprendente que las grandes empresas siempre estén en búsqueda de una nueva forma de innovar, ya sea lanzando un nuevo producto o servicio al mercado o mejorando uno existente con el objetivo de que la tecnología se adapte a las nuevas necesidades de la sociedad. No obstante, existe una gran diferencia entre un smartphone con cinco cámaras y un vehículo autónomo. La sociedad todavía no está lista para un cambio de tal magnitud, no podemos recurrir a la tecnología para resolver nuestros problemas. Es cierto, los vehículos no se distraen, no se cansan, no tienen sueño, no revisan su celular (Schneider, 2017, 4:48) pero eso no significa que son mejores que los seres humanos.
No podemos poner nuestras vidas y la de individuos externos como lo son los peatones y los demás conductores en manos de un software únicamente porque nos facilita la vida. Un conjunto de algoritmos no reaccionan igual que un ser humano. No porque algo sea posible significa que debe hacerse, no hay duda de que las grandes empresas tecnológicas son capaces de desarrollar casi cualquier idea que se propongan pero todavía no es el momento de los vehículos autónomos. Debemos aprender a conducir responsablemente antes de buscar una alternativa tecnológica que resuelva nuestros problemas. Una vez que se encuentre una respuesta al gran dilema ético de la IA, estaremos listos para diseñar un vehículo que no implique un riesgo para la sociedad y cuando aprendamos a cumplir con las leyes de tránsito y a pensar con conciencia, estaremos listos para comprar uno.
Crédito de la imagen:
Referencias:
Francesca Ferrando. (2018, Septiembre 28). Keynote: Philosophical Posthumanism (Dr. Ferrando, NYU) [Video] Recuperado de https://www.youtube.com/watch?v=liH7ZjKvrIU
Francesca Ferrando. (2017, Diciembre 7). 6. What Does POST-DUALISM Mean? Dr. Ferrando (NYU) – Course «The Posthuman» Lesson n. 6. [Video] Recuperado de https://www.youtube.com/watch?v=FPe9cQv9v9Q
Francesca Ferrando. (2017, Diciembre 7). 5. What Does POST-ANTHROPOCENTRISM Mean? Dr. Ferrando (NYU) – Course «The Posthuman» Lesson n. 5. [Video] Recuperado de https://www.youtube.com/watch?v=UNh1r-eOoiQ
García, S. M. (2019). Ética e inteligencia artificial . Recuperado de https://www.iese.edu/wp-content/uploads/2019/12/ST-0522.pdf
Holstein, T. (2017). The Misconception of Ethical Dilemmas in Self-Driving Cars. In Multidisciplinary Digital Publishing Institute Proceedings (Vol. 1, No. 3, p. 174).
Kaur, K., & Rampersad, G. (2018). Trust in driverless cars: Investigating key factors influencing the adoption of driverless cars. Journal of Engineering and Technology Management, 48 , 87-96.
Larco, N. (2018, Octubre 24). How Will Autonomous Vehicles Transform Our Cities? Recuperado de https://www.youtube.com/watch?v=tTOFMwKEg7o
Lin, P. (2015, Diciembre). El dilema ético de los automóviles robóticos . Recuperado de https://www.ted.com/talks/patrick_lin_the_ethical_dilemma_of_self_driving_cars?lan guage=es#t-156529
Lin, P. (2016). Why ethics matters for autonomous cars. In Autonomous driving (pp. 69-85). Springer, Berlin, Heidelberg.
McBride, N. (2016). The ethics of driverless cars. ACM SIGCAS Computers and Society, 45(3), 179-184.
Pachte, J. (2018, Julio 25). Ethics in Autonomous Cars. Recuperado de https://www.youtube.com/watch?v=KnD27GdhZxU&t=572s
Schneider, F. (2017, Mayo 19). How Self-Driving Cars Will Transform Our Cities and Our Lives. Recuperado de https://www.youtube.com/watch?v=CHV4AiCvSmw
Valero-Matas, J. A., & De la Barrera, A. (2020). El Coche autónomo:¿ Un futuro mejor?. Sociology and Technoscience, 10(1), 136-158.
Las opiniones aquí expresadas son exclusivas de su autor/autora y no representan la ideología del Instituto Tecnológico y de Estudios Superiores de Monterrey, la Escuela de Ciencias Sociales y Gobierno del mismo, el Departamento de Economía, así como a la Sociedad de Alumnos de Licenciado en Economía.
Gaceta Económica 
Me encantó el final. En efecto, la principal problemática es la ética y buscar una forma abastraerla en instrucciones de software fundamentadas por una moral globalmente aceptada.
Me gustaMe gusta