Google quería que los investigadores de inteligencia artificial “establecieran un tono positivo” para la empresa

En medio de las ya preocupantes batallas legales de Google sobre cómo maneja las búsquedas y los anuncios, Google todavía enfrenta luchas internas sobre la gestión del ex codirector ético de IA, la partida de Timnit Gebru. Después de dar a conocer su trabajo de investigación sobre las preocupaciones sobre los modelos de lenguaje de inteligencia artificial en gran parte no controlados, como los que se utilizan en las herramientas de búsqueda de Google y los principales teléfonos Android, la compañía desestimó su artículo diciendo que no tiene en cuenta el Google estaba haciendo nuevos esfuerzos para abordar estas preocupaciones y, por lo tanto, despidió a Gebru. Esto está claro, ya que la situación resultó ser un poco más complicada, pero algunos información de Reuters arroja una luz más brillante sobre cómo Google se ha acercado al periódico.

Según los cambios de política interna que entraron en vigor en junio, Google comenzó a exigir que su personal de investigación consultara con los equipos legales y de relaciones públicas antes de profundizar en ciertos temas que podrían considerarse sensibles. Estos temas incluyen la raza, el género, la afiliación política y el análisis facial, y la política afirma que estos “proyectos aparentemente inofensivos plantean problemas éticos, de reputación, regulatorios o legales”.

“Esto no significa que debamos escondernos de los desafíos reales”.

Además de esto, se pidió a los investigadores que “tuvieran mucho cuidado para encontrar un tono positivo”. Según los empleados de Google Research, los documentos que criticaban abiertamente las prácticas de Google enfrentaban un nivel de escrutinio mucho más alto que los que no lo eran.

“Se le enmarca como los optimistas de la IA y las personas que realmente construyen cosas [versus] el resto de nosotros Nellies negativos, estaba lloviendo en su desfile “, un experto externo en IA dijo. Aquí es donde entra en juego el artículo de Gebru.

Desde 2016, la industria de la tecnología se ha preocupado más por las prácticas éticas relacionadas con el uso de la IA. Google creó el grupo Ethical AI en 2018, casi al mismo tiempo que reclutó a Gebru con la promesa de una libertad académica total. Ya bastante bien considerada en su campo, asumió el cargo y, con la ayuda de la lingüista de la Universidad de Washington Emily M. Bender, presentó un borrador del artículo que luego la llevó a su despido.

Google afirma no haberla despedido, pero “aceptó su renuncia”. Pero las protestas de los empleados de Google, así como de los senadores estadounidenses, exigen detalles completos sobre una investigación interna sobre el asunto. El documento Gebru fue posteriormente aceptado por la Conferencia sobre Equidad, Responsabilidad y Transparencia.