Al presentar a los estudiantes de cs 1 el sesgo algorítmico a través del laboratorio de motores éticos, esto es lo que un científico en computación se parece a la moneda de etéreo.

Hay mucho interés reciente en torno a la ética de la tecnología. Desde recientes libros de prensa populares como algoritmos de opresión, automatización de la desigualdad y técnicamente incorrectos *, hasta noticias sobre sesgos algorítmicos, parece que todos están lidiando con los impactos éticos de la tecnología. En la comunidad de educación en informática, tenemos nuestras propias discusiones (y las hemos tenido durante algún tiempo, aunque parece que hay un aumento en el interés) sobre a dónde “pertenece” la ética en el currículo y cómo podemos incorporar la ética en todos los ámbitos. El currículum – incluido en cursos introductorios.

Una iniciativa dirigida a abordar cuestiones éticas en CS 1, en particular el comercio btc por eth, llamó mi atención. En julio de 2017, evan peck, en la Universidad de Bucknell, publicó un proyecto de programación que él y Gabbi Laborwit desarrollaron basándose en la máquina moral del MIT, una reelaboración del clásico problema de los carros para autos que conducen. Este proyecto, el motor ético, hizo que los estudiantes diseñaran e implementaran un algoritmo para los “cerebros” de un auto-manejo, específicamente cómo reaccionaría el auto si solo pudiera salvar a sus pasajeros o los peatones en la forma del auto. Después de implementar y probar sus propios algoritmos, los estudiantes auditaron los algoritmos diseñados por otros estudiantes en la clase.

Justin li en la universidad occidental se basó en este laboratorio, realizó algunos cambios en el código y formalizó las preguntas de reflexión y el análisis. Escribió sobre sus experiencias aquí. En particular, las ediciones de Justin se centraron más en la autorreflexión de los estudiantes, comparándolos con las decisiones de su algoritmo y las decisiones manuales y reflexionando en qué medida las decisiones de su algoritmo reflejaron o no sus prioridades.

Programé el laboratorio durante la semana 8 de nuestro curso de 10 semanas, justo después de completar nuestra unidad en clases de escritura. Tomamos un enfoque modificado de “objetos tempranos” en carleton en CS 1, lo que significa que los estudiantes usan objetos bitcoin y etereum de clases predefinidas que comienzan casi inmediatamente, y aprenden a escribir sus propias clases más adelante en el término. El laboratorio requería principalmente que los estudiantes utilizaran clases escritas por otros, accediendo a los datos y recurriendo a los métodos en estas clases, lo que posiblemente podrían haber hecho antes en el término. Sin embargo, descubrí que ubicar el laboratorio en este punto del término significaba que los estudiantes tenían una comprensión más profunda de la estructura de la persona y las clases de escenarios, y podían participar en las clases en un nivel más profundo.

Distribuí el laboratorio en dos ejemplos de comportamiento ético en períodos de negocios, que me parecieron apropiados en términos de duración del laboratorio. (de hecho, uno de los períodos de clase se redujo porque di un cuestionario ese día, y la mayoría de los estudiantes no habían terminado el laboratorio al final de la clase, lo que me lleva a creer que 2 períodos de reunión de toda la clase en Carleton, o 140 minutos, sería apropiado para este laboratorio.) Como lo hacen en todas nuestras actividades de clase, los estudiantes trabajaron en pares asignados usando la programación de pares.

El primer día, los estudiantes hicieron sus elecciones manuales y diseñaron su algoritmo en papel. Para asegurarme de que las acciones de la alianza etereum hicieron esto sin comenzar con el código, les pedí que mostraran su diseño en papel a mi prefecto (curso TA) o a mí mismo. Unos pocos pares pudieron comenzar a implementar el código al final del día 1. En el segundo día, los estudiantes implementaron y probaron sus algoritmos, y comenzaron a trabajar las preguntas de laboratorio para sus reseñas. La mayoría de los grupos no completaron el laboratorio en clase y tuvieron que hacerlo por su cuenta fuera de la clase.

Inesperadamente, los estudiantes tuvieron más dificultades para descubrir cómo acceder a los atributos de los pasajeros y peatones individuales. Rápidamente me di cuenta de esto porque les pido a los estudiantes que accedan a las variables de instancia utilizando los métodos de acceso y mutación, pero el código que les di no contenía métodos de acceso / mutación. Este es un cambio que planeo hacer en el código antes de usar este laboratorio nuevamente. También planeo mirar un poco más de cerca la descripción de la persona y las clases de escenarios en el laboratorio, ya que los estudiantes a veces se confunden sobre qué atributos pertenecían a los escenarios y cuáles pertenecían a las personas.

Los estudiantes mostraron una clara tendencia hacia las personas más jóvenes, a menudo codificando esto en sus algoritmos explícitamente. Un par mencionó que, si bien su algoritmo favorecía explícitamente a las personas más jóvenes que a las personas de edad avanzada, en sus decisiones manuales ellos “pensaron en nuestras abuelas”, lo que llevó a diferencias en sus decisiones manuales y automáticas en algunos lugares de la agencia de mapas etíope. Un buen número de estudiantes en esta clase provino de culturas donde los ancianos tradicionalmente tienen un estatus más alto que en los EE. UU., Por lo que el hecho de que este sesgo apareciera tan fuertemente me sorprendió un poco. Las mujeres embarazadas también obtuvieron un impulso en los algoritmos de muchos estudiantes, que luego tuvieron el efecto de sobrepasar a las mujeres en las decisiones, que muchos estudiantes anotaron en sus escritos. Si bien casi todos los pares favorecían explícitamente a los humanos por encima de las mascotas, algunos pares le dieron a Ethika mens un pequeño impulso a los perros sobre los gatos, mientras que nadie dio ningún impulso a los gatos. No estoy seguro de por qué esta clase estaba tan predispuesta contra los gatos.

Me impresionó la consideración y los matices de muchos de los escritos de laboratorio. La mayoría de los estudiantes pudieron identificar sesgos inesperados y razonar apropiadamente acerca de ellos. Muchos pensaron detenidamente en las diferencias en las elecciones de sus algoritmos frente a las elecciones de los algoritmos de sus compañeros de clase, incluso un par llegó incluso a razonar sobre qué tipo de automóvil de auto-conducción sería más comercial.

En la pregunta de reflexión sobre los desafíos de la programación de automóviles éticos que conducen por cuenta propia, muchos estudiantes se quedaron atascados ante la posibilidad de que un automóvil “supiera” su género, edad, profesión, etc., sin mencionar las mismas características de los peatones al azar, y capaz de utilizarlos para tomar una decisión de una fracción de segundo sobre a quién ahorrar. Este es un punto justo, y en el futuro haré un mejor trabajo para enmarcar esto (aunque, para ser sincero, no estoy 100% seguro de cómo terminará este lenguaje de programación ethereum).

Una de las preguntas de laboratorio pidió a los alumnos que reflexionaran sobre si el uso de atributos en el proceso de decisión es ético, moral o justo. Dos pares separados señalaron que la selección de atributos puede hacer que la decisión sea justa, pero no ética; una pareja señaló lo contrario, que una decisión podría ser ética pero no necesariamente justa. Me impresionó ver este reconocimiento en las respuestas de los estudiantes. Los estudiantes que favorecieron y utilizaron procesos de toma de decisiones más simples también brindaron algunas reflexiones interesantes acerca de las limitaciones de “más simple es mejor” y procesos de toma de decisiones más matizados, los cuales pueden mostrar sesgos inesperados de diferentes maneras. Conclusiones y puntos para llevar.

Diez semanas es un tiempo muy limitado para un curso, por lo que para cualquier actividad que agregué o contemplé en cualquier curso que imparta, evalúo si los resultados del aprendizaje valen la pena el tiempo dedicado a la actividad. En este caso, son. Desde la perspectiva del concepto del curso, el laboratorio les brindó a los estudiantes práctica adicional utilizando objetos y desarrollando y probando algoritmos, utilizando un problema del mundo real como contexto. Esto solo vale la pena el tiempo dedicado. Pero la adición de la parte del análisis ético también valió la pena. Aunque todavía no he leído mis evaluaciones para el curso, los estudiantes comentaron de manera informal durante y después del ejercicio que consideraron que el laboratorio era interesante y estimulante, y que eso desafió su forma de pensar de una manera que no esperaban en un curso de introducción. Me preocupé un poco por que los estudiantes no tomen el ejercicio en serio, y aunque creo que eso fue cierto en algunos casos, en general los estudiantes se involucraron seriamente en el laboratorio y en las discusiones con sus compañeros de clase.

banner