Si un robot o un bot software comete un delito, ¿qué dice la ley sobre sus dueños?

El Random Darknet Shopper es un bot que, cada semana, visita la deep web y gasta aleatoriamente 100 dólares en algún objeto. Dicha compra es después enviada a los dueños del bot, dos artistas suizos que han creado una exposición con todas las adquisiciones de su software automatizado. Entre las compras están unos vaqueros de imitación, un pasaporte y... una bolsita con pastillas de éxtasis.

Numerosos medios se hicieron eco de esta original iniciativa, y un día después de clausurar su exposición, la policía apareció para confiscar dichas drogas. ¿Pueden ser los responsables del bot acusados por comprar drogas? Yendo todavía más allá, y viendo cómo los coches autónomos están ya a un paso, ¿quién tiene la culpa si uno de estos coches tiene un accidente? ¿Quién puede ser llevado ante un juez?

El "bot" delincuente
Volviendo al primer caso, ¿qué ocurre si alguien programa un bot para hacer realizar acciones aleatorias y resulta que, con una de ellas, termina cometiendo un delito? Hemos hablado con José Leandro Núñez, abogado de Audens especialista en nuevas tecnologías, que nos explica que "quelas cosas no tienen capacidad jurídica, y por tanto no pueden ser condenadas en caso de que cometan infracciones o delitos", incluso aunque tengan inteligencia artificial. "El bot no es sino un medio o herramienta para la realización del acto ilegal", nos comenta también Sergio Carrasco, abogado y cofundador de Derecho en Red.

Parece lógico ya que, a fin de cuentas, ¿cómo juzgas o condenas a un bot? ¿Qué se hace entonces? José Leandro nos dice lo siguiente: "el sistema trata de tirar del hilo, de encontrar a la persona causante de ese comportamiento. Una vez encontrada, se trata de determinar hasta qué punto es responsable de lo ocurrido: ¿programó el robot a sabiendas, para hacer cosas ilegales? ¿Lo hizo de forma imprudente, sin prever las posibles consecuencias? ¿Fue un simple hecho fortuito?".

Ambos abogados coinciden en que la clave de cada caso concreto es ver si se ha producido dolo(intención de causar el daño) o neglicencia por parte del programador. En caso de que esto llegue ante el juez, y según nos explica Sergio, "tendrás que demostrar que no ha habido voluntad de que realice dichas actuaciones, y habría que ver circunstancias como qué control se ejercía posteriormente sobre el bot."

"La evolución de la misma herramienta no cambia ni las intenciones que tenía su desarrollador, ni la acción que va a realizarse (que ya se encuentra contemplada en el ordenamiento jurídico). Por lo tanto, no existe un sujeto diferenciado que sea el bot, ni hay laguna alguna al respecto", según Sergio Carrasco.
José Leandro va todavía más allá y nos pone otro ejemplo: la "posición de garante". "Por ejemplo, se le aplica al propietario de un perro que se escapa y muerde a alguien… y creo que también se podría aplicar en este caso". De todas formas, y por lo que nos comentan, dependería de cada caso concreto, de cómo se ha programado el bot y de las explicaciones que se den ante el juez.

Si nos ceñimos al caso del bot que compra cosas, otro apunte importante que nos hace José Leandro:

"Por lo demás, otro tema interesante es la validez de las compras realizadas por estas máquinas: la Ley nos dice que para que una compra (o cualquier otro contrato) sea válido, tiene que haber consentimiento de las dos partes. Ahora bien, si la compra la realiza aleatoriamente una máquina, que carece de capacidad jurídica, ¿existe realmente consentimiento? ¡Todo un dilema! Estoy seguro de que en el futuro nos encontraremos con sentencias de este tipo"
¡Ojo! Hasta ahora estamos hablando de bots programados para hacer tareas "aleatorias". Esto no quiere decir que, si programas un bot para hacer cosas ilegales, te vayas a librar. En este caso, y si se ha programado intencionadamente para tal fin, el creador del software en cuestión sería sin duda alguna responsable de los delitos o daños causados.

El ¿peligro? de la automatización de tareas
Por ir un poco más allá y "rizar algo el rizo", hemos pensado en otra situación casi extrema: ¿qué ocurre si utilizas algún servicio como IFTTT, que te permite automatizar las tareas, para descargar todas las fotos de Instagram que publica una cuenta y, al final, resulta que una de estas imágenes era pornografía infantil? Tú no te la has descargado adrede, pero el programa la ha descargado y está en tu disco duro.

Si en tu disco duro hay algo ilegal que se ha descargado de forma automática y sin tu conocimiento, te tocará demostrarlo

En este caso, la mera tenencia de un archivo de este tipo es un delito (se pena la posesión de pornografía infantil). Si su descarga ha sido efectivamente fortuita, te tocará probar ante el juez que ha sido tal. "Lo mismo sucedía cuando se descargaban películas de pornografía infantil ocultas como grandes éxitos de hollywood por ejemplo", explica Sergio. ¿Cómo lo pruebas? Demostrando que no hay más contenidos de ese tipo en tu ordenador, falta de habitualidad, cómo funciona la herramienta que lo ha hecho, etc.

Lo mismo afirma José Leandro: "Podría tratar de defenderse, basándonos en que no había intencionalidad, pero la persona en cuestión sería imputada con total seguridad". Por mucho que haya sido una descarga automática, eso no cambia que el poseer la imagen no sea un delito. En definitiva: podrías acabar frente a un juez y, a partir de ahí, deberías probar tu inocencia.

¿Y si un coche autónomo tiene un accidente?
Imagen del coche autónomo de Google
Todo el asunto de la conducción autónoma presenta un dilema moral: si un coche va por una carretera y la única forma que tiene de esquivar un accidente es llevarse por delante a un peatón, ¿qué debe hacer el coche? ¿Qué vida vale más? ¿Y si el coche lleva seis ocupantes? Sobre este asunto profundizan en este interesantísimo artículo del New York Times, hablando de lo que se conoce como "matemáticas morales".

Pero ¿quién carga con la culpa si se produce un accidente de estas características por un error del coche autónomo? "Estamos hablando de una herramienta incorporada al vehículo (da igual que sea más o menos avanzada) con lo cual existirá responsabilidad al igual que sucede ahora", explica Sergio, que además nos pone un ejemplo: si un error con el diseño hace que los frenos fallen, el culpable es claro. Con los coches autónomos ocurriría algo similar.

Igual que ahora se culpa a los fabricantes de fallos en el diseño, los fallos en un sistema autónomo de conducción también tienen responsables

José Leandro coincide con esta opinión: "tendríamos que ver quién es el culpable del accidente: el fabricante, por un error de diseño; la empresa, por falta de mantenimiento; el conductor, por toquetear los botones… o todos ellos". Y, además, hace una lectura muy interesante del asunto: "será muy complicado que veamos coches autónomos circulando por las carreteras hasta que se aclare el tema de las responsabilidades en caso de accidente."

En resumen: los bots, los sistemas de inteligencia artificial o los sistemas de conducción autónoma no dejan de ser herramientas que son programadas por alguien para tal fin y de esa forma deben ser consideradas en el caso de que exista algún problema con ellas. Así que, si tenías pensado programar un bot que compre aleatoriamente en la deep web, como hicieron los compañeros suizos, mejor que optes por otro proyecto distinto para evitar posibles problemas.

Fuente

Para los que me pidieron ser mas claro en la encuesta, trate de editarla pero solo me deja agregar opciones de respuesta mas no me deja modificar la pregunta.

¿Qué crees tu? por ¿Crees que el propietario de un bot debe responder por la acciones de ese bot?​
 
Última edición:

falcon.

Lanero Reconocido
Se unió
14 Abr 2007
Mensajes
83
yo creo que si hay culpa o por lo menos posibilidad de ir a juicio. pero no se que ejemplo puede ser el mas acertado.
por poner un ejemplo, si mi perro muerde a otra persona, hay la posibilidad de que me caiga multa o por lo menos me denuncien (ir a juicio etc.)(suponiendo que fue un evento infortunado y no intencionado), por que al final el perro y en el caso del supuesto del bot al final es responsabilidad del dueño y lo que pueda suceder por no llevar control de la situación pues caen consecuencias.
 

falcon.

Lanero Reconocido
Se unió
14 Abr 2007
Mensajes
83
es verdad, aclaren la encuesta que es muy confusa xd, pero creo que es: "crees que es justo que te enjuicien por lo que haga un bot?".
 

robinsito69

Lanero Reconocido
Se unió
15 Nov 2009
Mensajes
2,863
Para mi sin dudarlo diria que el responsable es quien programa el bot, ya que deberia ponerle limites a su creación, es como andar con un perro peligroso sin bosal.

Tambien se me ocurre el ejemplo de la ruleta rusa, un revolver con 1 cartucho en el arma, si le apunto a otra persona y cae en una recamara sin catucho no pasa nada, pero si le toca el que tiene el cartucho pues no puedo culpar al arma, ese muerto es mio.
 

falcon.

Lanero Reconocido
Se unió
14 Abr 2007
Mensajes
83
Para mi sin dudarlo diria que el responsable es quien programa el bot,.

no creo. bien usando el ejemplo del arma. como va a ser el culpable el fabricante del arma por lo que haga su usuario con ella. es verdad que el programador no debía por que crear dicho programa pero al final el que lo usan son otras personas y esas personas si saben en lo que se meten (en este caso no creo que alguien se meta en la deepweb sin saber lo hay allí.)
 

BONNUS

Lanero Reconocido
Se unió
28 Jul 2003
Mensajes
2,612
Si Juan fabrico una silla, Pedro la compró y Luis mató a Ana con la silla, nada tienen que ver Juan y Pedro.
Ahora si Pedro compró la silla con el propósito de que Luis le diera duro a Ana con la silla ahí si es cómplice. Si no hay intencionalidad, no se debe culpar al dueño.
 

psykho

Lanero Reconocido
Se unió
11 Jul 2004
Mensajes
998
voy a crear el mejor virus malware trojano de todos los tiempos, que trascienda a un estado de la poliformia cuantica, que ataque y aprenda cualquier sistema operativo UNIX(bsd-osx) /WIN(pc-sever)/Linux(todos los sabores)/ARM(todos los sabores)/cell(todos los sabores desde nokia-os incluido simbians) que se distribuya por todo espectro electrónico conocido por el hombre, pero lo enviare a horas de mi lecho de muerte para que humanidad sea forzada a vivir en la edad media de nuevo. el sera llamado la peste informática uno de los 4 jinetes del apocalipsis
 

andresnal91

••Last Kings••
Se unió
10 Dic 2012
Mensajes
2,647
voy a crear el mejor virus malware trojano de todos los tiempos, que trascienda a un estado de la poliformia cuantica, que ataque y aprenda cualquier sistema operativo UNIX(bsd-osx) /WIN(pc-sever)/Linux(todos los sabores)/ARM(todos los sabores)/cell(todos los sabores desde nokia-os incluido simbians) que se distribuya por todo espectro electrónico conocido por el hombre, pero lo enviare a horas de mi lecho de muerte para que humanidad sea forzada a vivir en la edad media de nuevo. el sera llamado la peste informática uno de los 4 jinetes del apocalipsis
 

psykho

Lanero Reconocido
Se unió
11 Jul 2004
Mensajes
998
voy a crear el mejor virus malware trojano de todos los tiempos, que trascienda a un estado de la poliformia cuantica, que ataque y aprenda cualquier sistema operativo UNIX(bsd-osx) /WIN(pc-sever)/Linux(todos los sabores)/ARM(todos los sabores)/cell(todos los sabores desde nokia-os incluido simbians) que se distribuya por todo espectro electrónico conocido por el hombre, pero lo enviare a horas de mi lecho de muerte para que humanidad sea forzada a vivir en la edad media de nuevo. el sera llamado la peste informática uno de los 4 jinetes del apocalipsis
es el primer capitulo de una cuento cyberpunk sobre el fin de mundo conocido, por la ley que culpaba a los programas y no a los programadores, pero no se por que carajos no grabo donde escribía sobre el libro, por que leído sin el comentario presente quedo como un fumado
 

x-throne

Lanero Reconocido
Se unió
3 Ene 2014
Mensajes
463
Es como cuando Ana queda embarazada y dice que fue un accidente. Como decir oops me caí en ese frondoso campo de penes y me quede embarazada, iba en el bus, me metieron un pollazo y quede embarazada, me senté en un inodoro público y me quede embarazada. ¿Algo de culpa tendrá Ana por poner la cola donde no debe? El caso es que cada quien cuenta su versión de la historia y en ese caso todos seriamos inocentes, la ley también define culpables pero lo que hoy es un delito mañana no puede serlo.
Si Juan fabrico una silla, Pedro la compró y Luis mató a Ana con la silla, nada tienen que ver Juan y Pedro.


Ahora si Pedro compró la silla con el propósito de que Luis le diera duro a Ana con la silla ahí si es cómplice. Si no hay intencionalidad, no se debe culpar al dueño.
Que carajos tiene que ver una pobre silla, en primer lugar la silla no tiene inteligencia sino se defenderían de los gases que le sueltan sistemáticamente sus dueños.

Además si Ana se muere porque las sillas de Juan son de mala calidad, pues Juan tiene la culpa. Por otro lado si Ana se sentó mal por culi pronta la culpa es de ella misma. El caso es que Ana se separó de Luis y se fue a vivir con su mozo un fabricante de sillas llamado Juan. Juan y Ana se casaron, tuvieron una hija y le pusieron Juana.

PD: La encuesta la hizo un Bot.
 

BONNUS

Lanero Reconocido
Se unió
28 Jul 2003
Mensajes
2,612
Es como cuando Ana queda embarazada y dice que fue un accidente. Como decir oops me caí en ese frondoso campo de penes y me quede embarazada, iba en el bus, me metieron un pollazo y quede embarazada, me senté en un inodoro público y me quede embarazada. ¿Algo de culpa tendrá Ana por poner la cola donde no debe? El caso es que cada quien cuenta su versión de la historia y en ese caso todos seriamos inocentes, la ley también define culpables pero lo que hoy es un delito mañana no puede serlo.

Que carajos tiene que ver una pobre silla, en primer lugar la silla no tiene inteligencia sino se defenderían de los gases que le sueltan sistemáticamente sus dueños.

Además si Ana se muere porque las sillas de Juan son de mala calidad, pues Juan tiene la culpa. Por otro lado si Ana se sentó mal por culi pronta la culpa es de ella misma. El caso es que Ana se separó de Luis y se fue a vivir con su mozo un fabricante de sillas llamado Juan. Juan y Ana se casaron, tuvieron una hija y le pusieron Juana.

PD: La encuesta la hizo un Bot.
WTF??
Mire, lo hago con una silla porque un robot es una herramienta, no una persona. Asi mismo como una silla es una herramienta o una cosa.No debe tomarse como si tuviera inteligencia propia, porque hasta ahora los robots no deciden por ellos mismos de la nada ni se crean solos, se programan que es diferente. Que algunos programas sean impredecibles porque "aprenden" o tienen comportamientos que no fueron explícitos en cada una de sus instrucciones (RNA, algoritmos genéticos, etc) es otra cosa.
Suponga que en el mismo ejemplo la silla es ahora un robot. Es un robot que conduce un vehículo.
Juan hizo el robot. Pedro compro el robot. Luis utilizó el robot para ir a la tienda, pero le indicó que hiciera un cruce prohibido y el robot chocó con Ana y ella murió.
Que tienen que ver Juan y Pedro ahi? pues nada. La cuestión es que cada caso se debe tomar como si un bot fuera una herramienta, por lo tanto no puede ser susceptible de ser hallado culpable, y por lo tanto esa responsabilidad no debe trasladársele a su fabricante o a su dueño.
Ahora van a preguntar: que pasa mi hago un bot para matar a alguien? Pues lo mismo que si usted pone una trampa de oso debajo del tapete de la casa de su suegra, el culpable no es el que hizo la trampa ni el que se la vendió, es usted por usar una herramienta para matar.

Por cierto, no entendí su obsesión con los penes y que tienen que ver con el ejemplo, pero por favor para simplicidad de las cosas suponga que Ana no esta embarazada.
 

x-throne

Lanero Reconocido
Se unió
3 Ene 2014
Mensajes
463
Por cierto, no entendí su obsesión con los penes y que tienen que ver con el ejemplo, pero por favor para simplicidad de las cosas suponga que Ana no esta embarazada.
Suponiendo que Ana no está embarazada pues ya no sería un doble homicidio.

Por otro lado con el único pene que estoy obsesionado es con el mío y donde lo voy a guardar esta noche, aun no le consigo parqueadero fijo.
 

ximef

Lanero Reconocido
Se unió
18 May 2006
Mensajes
68
Si debe responder por los delitos, aunque muchas veces se crean estos bots en plan "educativo" jejejej
 

reader

Lanero Reconocido
Se unió
18 Feb 2004
Mensajes
4,409
En el primer caso el bot tiene una razón de ser que se la da el programador o quien lo hizo, así la acción se realice de forma aleatoria el creador ya empieza metiendolo en la deep web por lo tanto es seguro que va a adquirir algo ilegal y lo va a hacer llegar a quien lo mandó en este caso el programador, por lo tanto si hay culpable.
 
Arriba