En un giro más propio de una película de Hollywood que de la realidad, el Departamento de Policía de San Francisco recientemente estuvo al borde deemplear robots portadores de bombasautorizados parausar fuerza letalcontra miembros de la comunidad. A finales de noviembre de 2022, la Junta de Supervisores de San Francisco votó8 a 3 a favor de tal política.1
No es sorprendente que las garantías del SFPD de que los robots solo llevarían explosivos, no armas, y serían utilizados en circunstancias extremas hicieran poco para calmar el clamor público.
Todo esto surgió en respuesta al Proyecto de Ley de la Asamblea de California 481, que entró en vigor en 2022 y requería que todas las agencias locales de aplicación de la ley en California inventariaran su equipo militar2, redactaran políticas que describieran sus usos autorizados y presentaran los proyectos de políticas a los órganos de gobierno locales para su aprobación3. El AB 481 fue introducido por primera vez por el asambleísta David Chiu, D-San Francisco, quien presentó el proyecto de ley como una forma de “reconstruir la confianza comunitaria” con la policía4. “Nuestras calles en California no son zonas de guerra, y nuestros ciudadanos no son combatientes enemigos”, afirmó.5
Irónicamente, lo que estaba destinado a aumentar la transparencia y reparar las relaciones entre el público y la policía llevó al SFPD, con poca intervención pública, a buscar y obtener brevemente la autorización para el uso de robots letales. Actualmente, el SFPD tiene doce robots controlados a distancia que normalmente se utilizan para examinar áreas de difícil acceso o desactivar bombas.6 La política original redactada por el SFPD era silenciosa en cuanto a los usos autorizados de los robots. En respuesta a esa omisión, el miembro de la Junta de Supervisores, Aaron Peskin, escribió en el borrador de política una prohibición contra el uso de la fuerza por parte de los robots.7
Sin embargo, el SFPD respondió con su propia corrección, tachando la adición de Peskin e incluyendo la autorización para usar los robots “como una opción de fuerza letal cuando el riesgo de pérdida de vida para los miembros del público o los oficiales es inminente y supera cualquier otra opción de fuerza disponible para el SFPD.”8 Fue esta iteración de la política la que sorprendentemente obtuvo la mayoría de votos a finales de noviembre.
La reacción pública fue rápida. Críticos como Dean Preston, que forma parte de la Junta de Supervisores y votó en contra de la política, afirmaron que el SFPD no publicó la política públicamente al menos 30 días antes de la votación, violando el Código de Gobierno de California sección 7071(b).9 Otros grupos de derechos civiles, incluyendo la ACLU, se unieron con miembros del público en oposición.10 En total, cuarenta y cuatro grupos comunitarios firmaron una carta oponiéndose a la política, la cual decía en parte: “Usar robots diseñados para desactivar bombas para, en cambio, entregarlas es un ejemplo perfecto de este patrón de escalamiento, y de la militarización de la fuerza policial que preocupa a tantos en la ciudad.”11 El 5 de diciembre de 2022, grupos de manifestantes se presentaron fuera del Ayuntamiento con carteles proclamando su oposición, como “Todos hemos visto esa película … No a los robots asesinos.” 12
En pocos días, la Junta de Supervisores votó para enmendar la política y prohibir el uso letal de los robots.13 Según enmendada, la política fue aprobada por unanimidad.14 Sin embargo, la junta envió la disposición sobre los robots a un comité para una mayor consideración. 15
El debate sobre cómo debe usarse la tecnología en la vigilancia no es nuevo. Ryan Calo, profesor en la Universidad de Washington, “ha estado preocupado durante mucho tiempo por la creciente militarización de las fuerzas policiales.”16 Señala que el uso de robots podría proteger tanto a los oficiales como a los presuntos individuos violentos. El uso de robots permitiría a los oficiales mantenerse alejados del peligro, así como negaría la razón por la cual los policías usan la fuerza-es decir,, la amenaza percibida a la seguridad del oficial.17 Pero, “Tenemos que preguntarnos, ¿queremos vivir en una sociedad donde la policía mata personas con robots? Se siente tan profundamente deshumanizante y militarista.” 18
El debate también plantea preguntas sobre la responsabilidad legal y el potencial de demandas por muerte injusta en derechos civiles. ¿Qué pasa si la tecnología falla y lesiona o mata a alguien? “Se vuelve muy difícil desenredar quién es responsable. ¿Son las personas que utilizan la tecnología? ¿Son las personas que diseñan la tecnología?” se pregunta Calo.19 ¿Y cómo interpretarán los tribunales la inmunidad calificada en el contexto de los robots controlados por humanos en una demanda de derechos civiles?20 ¿Cómo usaría “un oficial razonable” robots letales? ¿Qué sucede con el estándar legal “claramente establecido” donde no hay precedentes para el uso de tal tecnología? Esperemos nunca tener que descubrirlo.
—
1 Ari Shapiro y Brianna Scott, San Francisco considera permitir que los robots de la ley usen fuerza letal, NPR, 28 de noviembre de 2022, https://www.npr.org/2022/11/28/1139523832/san-francisco-considers-allowing-law-enforcement-robots-to-use-lethal-force.
2 Como un aparte, si te preguntas cómo es que las agencias locales de la ley, incluidas aquellas que sirven a escuelas K-12, tienen arsenales militares, la ACLU explica de manera útil tanto cómo es eso y por qué es tan problemático. Charlotte Lawrence y Cyrus J. O’Brien, PhD, La Militarización Federal de la Aplicación de la Ley Debe Terminar, ACLU, 12 de mayo de 2021, https://www.aclu.org/news/criminal-law-reform/federal-militarization-of-law-enforcement-must-end.
3 Leah Worthington y Sue Dremann, Las fuerzas del orden locales poseen millones de dólares en ‘equipo militar’. Un nuevo proyecto de ley estatal busca regular todo eso, RWC Pulse, 12 de diciembre de 2022, https://www.rwcpulse.com/local-news/public-safety/local-law-enforcement-owns-millions-of-dollars-in-military-equipment-a-new-state-bill-seeks-to-regulate-all-of-that-6223871.
4 Íd.
5 Íd.
6 Shapiro, supra.
7 Íd.
8 Íd.
9 Ron Amadeo, San Francisco decide que los robots asesinos de la policía no son una gran idea, Ars Technica, 7 de diciembre de 2022, https://arstechnica.com/gadgets/2022/12/san-francisco-decides-killer-police-robots-arent-such-a-great-idea/.
10 Íd.
11 Íd.
12 Íd.
13 Eduardo Medina y McKenna Oxenden, San Francisco retrocede en el plan de permitir que robots policiales usen fuerza letal, New York Times, 6 de diciembre de 2022, https://www.nytimes.com/2022/12/06/us/police-robots-san-francisco.html.
14 Id.
15 Id.
16 Shapiro, supra.
17 Id.
18 Id.
19 Id.
20 Daphne Duret, Lo que el debate sobre los robots asesinos de San Francisco nos dice sobre la policía, Marshall Project, 10 de diciembre de 2022, https://www.themarshallproject.org/2022/12/10/san-francisco-killer-robots-policing-debate.
