La tecnología debe ayudar, no dañar.
El Global Genius Trust financia y construye sistemas que afectan directamente a las personas — cómo se desplazan, qué alimenta sus hogares, qué comen, cómo intercambian valor. Prohibimos el uso como arma de todo lo que desarrollamos, y lo dejamos por escrito antes de firmar un contrato.
La IA, la robótica y la automatización deben usarse para ayudar, no para dañar.
El compromiso
Este no lo iniciamos nosotros. Nos sumamos a él.
Añadir armas a robots ampliamente disponibles y capaces de desplazarse por los lugares donde las personas viven y trabajan plantea riesgos graves de daño y objeciones éticas serias.
En octubre de 2022, seis empresas de robótica de tres continentes — Boston Dynamics, Agility Robotics, ANYbotics, Clearpath Robotics, Open Robotics y Unitree Robotics — publicaron una carta abierta a la industria de la robótica comprometiéndose a no convertir en arma sus robots de propósito general ni el software que permite su uso, y llamando al resto de la industria a hacer lo mismo.
El Global Genius Trust ha asumido ese mismo compromiso. No lo originamos y no nos atribuimos ningún mérito por él. Lo hemos adoptado — y lo extendemos más allá de los robots móviles a todo sistema que desarrollamos.
- No convertiremos en arma ningún sistema que desarrollemos, ni el software que lo opera.
- No permitiremos que otros lo conviertan en arma, ni por acción ni por omisión.
- No permitiremos ningún uso que dañe o intimide a una persona o a un animal.
- No permitiremos ningún uso que viole las leyes de privacidad o de derechos civiles.
Esta no es una posición nueva. El Trust y sus empresas operativas se han opuesto desde el principio al uso de nuestras tecnologías como armas, y nuestros términos y condiciones de venta lo dicen de forma explícita — antes de la venta, no después.
Qué significa en la práctica
Una condición de venta, no una declaración de intenciones
Una posición ética que solo vive en un sitio web vale muy poco. La nuestra está escrita en los documentos comerciales:
En el contrato
Los términos y condiciones de venta prohíben explícitamente usar nuestros productos como armas, habilitar armas, o dañar o intimidar a cualquier persona o animal.
Antes de la venta
Trabajamos con los clientes potenciales para comprender sus casos de uso y aplicaciones previstas, y para asegurarnos de que entiendan nuestras políticas y condiciones antes de firmar nada.
Después de la venta
La relación continúa: educamos y apoyamos a los clientes en el despliegue seguro, eficaz y ético de estos sistemas mientras los operen.
Si se incumple
El uso prohibido es un incumplimiento del acuerdo de venta, no una cuestión de buena voluntad, y se trata como tal.
En toda la cartera
Un solo estándar, todos los proyectos
El Trust no tiene un único producto. Tiene trabajo de transporte, energía, sistema monetario y fundación, y la misma prohibición se aplica a todo — porque el riesgo no es exclusivo de los robots. Un sistema de pagos, un sistema eléctrico y una red alimentaria pueden volverse contra las personas con la misma eficacia que una máquina.
Celestavia
Transporte eléctrico suspendido para pasajeros y carga. Celestavia publica su propia aplicación de este compromiso.
Compromiso Ético de Celestavia →
BreakThru Technology
Beyond Organic: productos integrales ricos en nutrientes, insumos agrícolas centrados en el suelo, agronomía asistida por IA y acondicionamiento poscosecha. Los alimentos y el suelo están cubiertos por la misma prohibición — el control del suministro de alimentos es una de las armas más antiguas que existen.
BreakThru Technology →
Sistema Monetario GEO
Un sistema monetario mal construido es infraestructura para la coerción. El nuestro está diseñado para ser auditable y resistente a su uso como herramienta de control.
FUNDA A AFI Internacional
Trabajo de fundación en América Latina, sujeto al mismo estándar que las entidades comerciales.
Seguridad pública
La misma tecnología, apuntada en la otra dirección
La razón para rechazar el uso como arma no es que estos sistemas sean peligrosos. Es que son poderosos, y ese poder tiene un uso mucho mejor y evidente.
El transporte automatizado y la robótica móvil pueden y deben usarse como herramientas potencialmente salvadoras de vidas que mantienen a las personas fuera de peligro — alejándolas de carreteras peligrosas, llegando a comunidades que los servicios de emergencia no alcanzan con rapidez, y realizando tareas de inspección y monitoreo que de otro modo pondrían a una persona en un lugar peligroso. Apoyamos el uso seguro, ético y eficaz de estas tecnologías en la seguridad pública. Ese apoyo y la prohibición del uso como arma son el mismo compromiso, enunciado en dos direcciones.
Por qué publicamos nuestros diseños
El código abierto es una decisión ética, no solo comercial
El Trust opera mediante Open Management, y su ingeniería sigue la misma lógica: los diseños mecánicos, civiles y eléctricos se publican como código abierto para que cualquier fabricante calificado pueda construirlos y para que las mejoras regresen a todos.
Esto importa éticamente, no solo comercialmente. Un sistema cuyos diseños son públicos puede ser inspeccionado por las personas a las que afecta. No puede adquirir en silencio una capacidad que nadie fuera de la empresa conoce. No depende de la buena voluntad continuada de una sola organización, ni de su supervivencia, para seguir funcionando de forma segura. El secreto y la seguridad suelen presentarse como lo mismo. En infraestructura, casi siempre son lo contrario.
Privacidad y derechos civiles
La vigilancia también es una forma de daño
La próxima generación de estos sistemas trabajará entre nosotros y junto a nosotros de forma más cercana e inteligente que sus predecesores. Eso plantea preguntas de uso indebido que no tienen nada que ver con las armas.
Prohibimos el uso de nuestros sistemas de cualquier forma que viole las leyes de privacidad o de derechos civiles, y seguiremos trabajando con los responsables de políticas públicas y con nuestros pares de la industria sobre los riesgos que trae consigo la inteligencia artificial emergente — en particular el sesgo, la deshumanización y la erosión de la privacidad. Un corredor de transporte que vigila a todos los que lo usan no es una pieza neutral de infraestructura.
Monitoreo de video y audio
No arreglaremos la vigilancia fingiendo que no vemos
Todo lo anterior se aplica, sin excepción, a todo monitoreo de video y audio realizado en nuestros sistemas o por ellos. Una cámara en un corredor de transporte y un micrófono en una estación están cubiertos por las mismas prohibiciones que cualquier otra capacidad que construimos: no pueden convertirse en arma, no pueden usarse para dañar ni intimidar, y no pueden usarse de ninguna forma que viole las leyes de privacidad o de derechos civiles.
Pero negarse a monitorear por completo sería desechar algo genuinamente valioso. El video y el audio grabados son la forma de reconstruir un choque con honestidad, de rastrear una falla estructural hasta su causa, y de resolver una acusación contra un pasajero o contra un operador con pruebas y no según el peso de la palabra de cada uno. No estamos dispuestos a perder ese uso.
Lo que vuelve peligroso al monitoreo no es la grabación. Es la asimetría — una parte guarda las imágenes y todos los demás simplemente aparecen en ellas. Por eso eliminamos la asimetría, no las cámaras.
- Las grabaciones no son propiedad privada del operador. Se custodian para el público que aparece en ellas.
- Cualquier persona del público puede verlas y escucharlas, siempre que esté debidamente identificada y exponga un motivo para su solicitud.
- La identificación y el motivo declarado son las únicas condiciones. El acceso no queda reservado a la policía, a las aseguradoras, a los abogados ni a la propia empresa.
- Ninguna grabación se retiene en silencio, se elimina ni se reserva para una parte privilegiada.
Las dos condiciones existen para proteger a las personas que aparecen en las grabaciones, no para restringir el acceso a ellas: una solicitud anónima y sin explicación de imágenes de una persona identificada es exactamente lo que haría un acosador. La identificación y el motivo declarado hacen que la propia solicitud forme parte del registro, que es el mismo principio aplicado a quien pregunta.
Un sistema de monitoreo que el público puede inspeccionar es un instrumento de rendición de cuentas. El mismo sistema, en manos privadas, es un instrumento de vigilancia. El equipo no decide cuál de los dos es — lo deciden las reglas de acceso.
Construyendo para el futuro
Una invitación al resto de la industria
Estamos comprometidos a trabajar con los responsables de políticas públicas para promover el uso seguro de estas tecnologías y prohibir su uso indebido, y hacemos un llamado a la comunidad de robótica, transporte y automatización para que asuma compromisos similares.
También reconocemos que nuestro compromiso por sí solo no basta para abordar todos los riesgos. Apoyamos esta coalición y otras iniciativas éticas, interna y externamente, ahora y en el futuro, y esperamos que esto sea el comienzo de una conversación larga y no el final de una.
Estos son sistemas poderosos que ayudan a mantener a las personas fuera de peligro. Tenemos la intención de que sigan siéndolo, por la seguridad de generaciones que no tuvieron voz en su construcción.
Cómo pensamos cumplir esta promesa
La Sophia
Todo lo anterior es un documento, y los documentos no se hacen cumplir solos. Las instituciones de cualquier tipo — benéficas, religiosas, comerciales, gubernamentales, incluso sin fines de lucro — tienden a corromperse con el tiempo suficiente. Un compromiso escrito por los fundadores vale exactamente lo que valga el criterio de quien dirija la organización una generación después.
Ese es el problema que la Sophia existe para resolver. Sophia significa sabiduría, del griego sophia. En el Global Genius Trust no es una metáfora ni un comité: es una posición, ocupada por una persona calificada, presente en nuestros proyectos junto al investigador, al gerente y al financista — con discernimiento de lo que realmente está en juego en una decisión, previsión medida en generaciones y no en trimestres, conciencia de las consecuencias para el mundo natural, y la autoridad para plantear una objeción que debe ser respondida.
Así es como pensamos asegurar que nuestra tecnología nunca se use indebidamente. No confiando en esta página, ni confiando en nosotros mismos, sino sentando de forma permanente a alguien cuyo trabajo es advertir cuándo la respuesta se está desviando — y que tiene la autoridad para decirlo antes de que esa desviación se convierta en una decisión.
- Una prohibición solo se sostiene mientras alguien esté dispuesto a hacerla cumplir frente a la presión comercial.
- La Sophia es ese alguien, por diseño y por nombramiento, no por casualidad de carácter.
- El rol sobrevive a cualquier fundador, directivo o consejo.
¿Preguntas sobre nuestras condiciones o nuestra posición?
Las consultas de alianzas, contratación y gobernanza se canalizan por un solo formulario.