El Robot Asesino

Hola Amigas de Noveno B.
Por favor interactuemos en este espacio se trata de la nota final de Informatica ,Les adjunto una lectura la cual quiero que la lean y debatamos acerca de quien fue el culpable de la tragedia que sucede en este relato.Aqui necesito que trabajen de forma individual dando su opinion al respecto, recuerden que no necesitan estar pegadas todo el dia a este foro basta con participar activamente en el dia a cualquier hora y realizar aportes constructivos que generen conocimiento,Para esta nota tendre en cuenta;

• Numero de participaciones-
  

Calidad en las participaciones.

• Respeto por las opiniones de las demas compañeras.
  

Aporte al hilar las ideas es decir generar controversia y dfiscusion constructiva con sus aportes.(Opina a partir de los aportes de las demas compañeras).


[justify]Recuerden esta es la ultima nota del bimestre y puede salvar a mas de una.EXITOS.
"La mejor arma contra la ignorancia es el estudio.",

El caso del robot asesino
Descripción
A continuación presentamos una adaptación del conocido “Caso del robot asesino”, de
Richard Epstein (“The case of the killer robot”), cuya versión original puede leer en:
http://onlineethics.org/cases/robot/robot.html
El escenario de la trama es Techtronics, una empresa ubicada en “Silicon Valley” que desarrolla software para robots. Comenzaremos por presentar a los 11 protagonistas del caso:
1. Juana Andrade: programadora y analista despedida de Techtronics por oponerse al uso del modelo “Prototipo” en el proyecto CX30.
2. Reymundo Calvo: jefe de la división responsable del éxito de los proyectos de robots en
Techtronics.
3. Marta: personaje anónimo que proporcionará la información acerca de la dinámica de
grupo del proyecto CX30.
4. Raúl Murcia: programador responsable de escribir las instrucciones del programa del robot Robbie CX30 que hicieron que el robot oscilara salvajemente y diera muerte a Mateo
Engracia.
5. Pablo Filado: fiscal que ha antepuesto los cargos criminales contra Raúl Murcia.
6. Mabel Luste: reportera de la historia del robot asesino.
7. Walter Verito: profesor de Física de la universidad de Silicon, quien confirma que Raúl
Murcia interpretó mal las ecuaciones de la dinámica del robot.
8. Samuel Mago: jefe del proyecto CX30, con experiencia en proceso de datos; a cargo del
proyecto CX30 para disgusto del jefe de la división Reymundo Calvo. Samuel usaba
siempre el modelo “Prototipo” en los desarrollos de software.
9. Pedro Ponce: profesor de ingeniería del software de la universidad Silicon. Dirigió una
auditoría de procedimientos de garantía de calidad del software en Techtronics.
10. Leticia Borla: profesora de psicología del software de la universidad Silicon. Diagnosticó a Raúl Murcia como una persona “orientada por tareas” que era “demasiado sensible a la crítica”.
11. Mateo Engracia: operador de robots matado por un robot CX30.
12. Miguel Morton: presidente de Techtronics. Puso a Samuel Mago a cargo del proyecto
CX30 como medida ahorrativa; dió apoyo monetario a la campaña del fiscal Pedro Filado,
y contrató a Pedro Ponce para que dirigiese la auditoría de procedimientos de garantía de
calidad del software de Techtronics.
13. Vicente Morales: Profesor de ética informática de la universidad de Silicon. Analiza las
tensiones entre individuos y la responsabilidad de la empresa en una entrevista con Mabel
Luste.

Y a continuación, la narración del caso...

Escena 1
Mateo Engracia murió al ser lanzado por un robot en la línea de ensamble. Trabajaba como
operador de robots en la compañía Ciber. Mierntras operaba un robot CX30, éste comenzó a funcionar inadecuadamente y agitar su "brazo" con violencia. Al ser golpeado por el brazo, Mateo fué lanzado fuertemente contra una pared y murió casi al instante. El caso ha provocado conmoción e indignación en el Valle de Silicio.
Poco tiempo después el Fiscal de Silicon Pablo Filado anuncia los cargos criminales de la muerte de Mateo Engracia contra Raúl Murcia. Según la acusación, Raúl Murcia escribió el pedazo particular del programa responsable del funcionamiento defectuoso del robot. Transcribimos a continuación las palabras del fiscal en una conferencia de prensa donde triunfantemente anuncia las pruebas en contra de Raúl Murcia mostrando unas fórmulas escritas a mano que fueron fiscalizadas del departamento de Físicos de Techtronics:
“El sr. Raúl Murcia tenía que programar estas fórmulas para el buen funcionamiento del robot. El sr. Murcia cometió falta cuando, no teniendo conocimientos suficientes de física, interpretó mal las fórmulas, lo que dió como resultado la muerte de Mateo Engracia. Nuestra vida está rodeada de ordenadores, ahora incorporados en cada esquina de nuestros hogares. Nuestra sociedad se debe defender de este tipo de errores o nuestras familias podrían sufrir este tipo de consecuencias.
Hemos confirmado el error con el profesor de física Dr. Verito, que domina el lenguaje C y ha examinado el programa escrito por el sr. Murcia”
Transcribimos asimismo el veredicto del Dr. Verito:
“De acuerdo con mi examen de las instrucciones del programa C se trata de un error claro. El programador no entendió que las derivadas habían de evaluarse dinámicamente y las programó estáticamente tomando los promedios en los ejes X, Y y Z. Siguiendo las instrucciones, el robot se metió en un bucle infinito. Fue un error de su parte no consultar a los expertos.”

Escena 2
El periódico para el que trabaja la reportera Mabel Luste ha establecido contacto anónimo con una persona a la que llamaremos Marta, que hace unas declaraciones al periódico por vía telefónica.
Transcribimos la correspondiente conversación:
Mabel ¿Puedes describir el ambiente de trabajo de Tectronis?
Marta Había una tremenda presión, especialmente en el equipo del proyecto CX30, de terminar el software del robot para el primero de enero. El jefe del proyecto anunció que las “cabezas rodarían” en el grupo si no se completaba el proyecto para tal fecha. Fuí testigo de muchas fricciones entre Reymundo Calvo, jefe de la división, y Samuel Mago, jefe del proyecto. Se odian a morir. En junio el proyecto llevaba 6 meses de retraso, y andaban rumores de que Reymundo Calvo y su división entera dependían del éxito del proyecto CX30. En una ocasión, Calvo llamó a Samuel a su oficina y le gritó - todos lo oímos bien claro - que el proyecto tenía que estar terminado el primero de enero o que se atuviera a las consecuencias. Y.., bueno Calvo no habló literalmente de “cortar esquinas” del proyecto pero lo dijo indirectamente al insistir en que si queríamos trabajo el proyecto tenia que estar terminado en enero.
Otro problema entre ellos surgió porque Reymundo quería solucionar el tema contratando a
nuevos programadores, a lo que se oponía Samuel. Reymundo veía el asunto desde un punto de vista de ingeniero fabricante: agregando hombres en la fabricación aumenta la cantidad de producto fabricado. No entendía el punto de vista de Samuel, según el cual, incorporar más trabajadores en aquel punto del desarrollo sería menos productivo. Reymundo no quiso escucharle y contrató más programadores que no sabían ni papa de programar robots. Necesitaron un tiempo para aprender y entender el desarrollo en el punto en que se encontraba.
Reymundo nos reunió un día y nos presentó su nueva teoría de desarrollo de software resumida en “no hay software perfecto” y “ lo perfecto es enemigo de lo bueno”.
El CX30 es el sucesor del CX20. Mientras que este último era mecánico en su totalidad, el CX30 tenía muchos microordenadores empotrados. Creo que Reymundo Calvo no se daba cuenta de la trascendencia que esos cambios significaban para la calidad del producto.
Mabel Gracias por acceder a darnos esta información

Escena 3
Presentamos ahora una escena en la que Mabel Luste acude a una entrevista con Leticia Borla, experta psicóloga de programadores que estudia los factores que tienen impacto en el desarrollo del software. La doctora presenta a Mabel el informe que ha elaborado sobre la conducta del grupo encargado del proyecto y sus conclusiones al respecto.
Leticia Borla Muchos compañeros del grupo se refieren a Raúl Murcia como una persona muy eficiente, seguro de sí mismo, pero muy creído y poco dado a aceptar sus errores. Una compañera dijo que se creía la “Prima Donna”.
En el informe concluyo que Raúl Murcia tiene una personalidad orientada a tareas; le gusta que las cosas se terminen y no descansa hasta que estén terminadas, las toma como cosa suya. Su ego está estrechamente ligado a su trabajo: se percibe como el trabajo que realiza. Esta actitud es un arma de doble filo en el mundo de la programación, donde un proyecto de desarrollo es un trabajo de grupo. Y un grupo necesita particularmente personas orientadas a la “inter- acción”, que sienten satisfacción al trabajar con otras personas y preservan la armonía del grupo. Según las declaraciones de una compañera de Raúl Murcia:
“Pensábamos que nuestro grupo de programación era democrático. Sin embargo veo ahora que éramos un grupo ambicioso, con gente de talento pero también con individualistas como Raúl Murcia. Raúl es muy brillante, pero se creía más de lo que era, porque entre nosotros teníamos profesionales de universidades de renombre como la UNED que no se las daban tanto. Creo que se volvió más individualista desde que en una reunión con unos auditores de calidad del software se mencionó la ineficiencia de un módulo que él había implementado. Enrojeció de cólera y nunca mas volvió a asitir a este tipo de reuniones. Por nuestra parte, después de enviarle un algoritmo mas eficiente, optamos por no meternos nunca en sus cosas”
Según otra fuente: “Raúl no era fácil de abordar. Es muy brillante, pero no se puede colaborar con él; siempre te responde: dame las especificaciones de lo que quieres y yo lo programo. Le gusta el aspecto de resolver problemas por él mismo y no tiene paciencia para cosas tediosas. Probar instrucciones no es para él”.
Otra compañera apunta un aspecto diferente de la personalidad de Raúl: Siempre estaba dispuesto a hacer el trabajo de otros pero no a sugerir estrategias para resolver un problema. Una vez tenía un problema y lo consulté con él, y días más tarde me trajo la solución: tomó días de su tiempo para resolverlo”.
No parece pues que Raúl tuviera ningún espíritu de trabajo en equipo. La idea de la programación de equipo es que un producto de software pertenece al equipo y no a los programadores individuales. Es importante estar abierto a la crítica y tener menos apego al trabajo propio. Las revisiones de los módulos son consecuentes con esta filosofía.

Escena 4
Se considera la hipótesis de que fuera el modelo de desarrollo de software utilizado y no la mala interpretación de Raúl Murcia la causa del fallo del CX30.
Mabel ha deducido de sus investigaciones que el proyecto CX30 tenía fallos desde el inicio. El presidente de Techtronics Miguel Morton había puesto a cargo del software a Samuel Mago, cuya experiencia se limitaba al procesamiento de datos para la contabilidad. Reymundo Calvo se opuso a ese nombramiento. Es posible que una diferente filosofía del desarrollo del software hubiera salvado la vida del operador Mateo Engracia.
Mabel habla con Juana Andrade, experta programadora en tecnología punta despedida de
Techtronics por oponerse a seguir una antigua metodología de desarrollo (“modelo de prototipo”).
Mabel
Juana ¿puedes explicarnos tu postura y desacuerdos con tu jefe anterior Samuel Mago?
Juana Mira, yo respeto la experiencia de Samuel Mago. La metodología que él proponía ha tenido mucho éxito en el campo de los sistemas interactivos; yo misma tengo un buen concepto de ella. Sin embargo para el tipo de tarea que abordábamos no era la más apropiada, por los riesgos de seguridad que planteaba el proyecto. Es cierto que un prototipo es muy útil para recibir retroalimentación de los usuarios. Se construye con las funcionalidades básicas, y luego éstas se van refinando hasta obtener la especificación final. La retroalimentación de los usuarios es fundamental para la construcción de las especificaciones. Yo he trabajado con este modelo en muchos proyectos, pero en este proyecto me opuse con todas mis fuerzas porque veía el riesgo que suponía para los usuarios. Propuse una versión más avanzada que usa como base el modelo prototipo “espiral”, que incluye análisis de riesgos y no sólo toma en cuenta la retroalimentación
de los usuarios sino el entorno en que se utilizará el producto, el impacto que puede tener en sus usuarios, etc.
Mabel
Te despidieron por no estar de acuerdo con la idea del jefe.
Juana
Mira Mabel, yo no me hubiera adaptado a un desarrollo de ese tipo de software en la forma
irresponsable en que Samuel Mago y Reymundo Calvo querían llevarlo acabo. Si no me hubieran despedido, yo habría abandonado la empresa. Tengo clara mi función social profesional, tengo muy presente el juramento que hice el día de mi graduación. Debo asegurarme de que mi trabajo no daña a otros seres ni al ambiente. No pienso que Raúl sea el único responsable. El proyecto estaba mal diseñado desde el principio.
Mabel Marta nos confirmó en su intervención anónima que tú fuiste bien clara cuando dijiste que la intervención de los operadores era indispensable y crítica y que debía asegurarse su seguridad desde el principio.
Juana

Tú lo has dicho. Me siento satisfecha por no haber participado en este crimen, pero a la vez pienso que podía haber hecho más que eso. Quizás era mi deber parar el proyecto. Me duele
inmensamente la muerte de Mateo Engracia.

Escena 5
Declaraciones de Miguel Morton, presidente de Techtronics Sociedad Anónima.
“Inmediatamente después de conocer la tragedia, me encargué personalmente de contratar al mejor experto, el profesor ingeniero muy conocido por sus investigaciones Pedro Ponce, para que dirigiera una investigación imparcial sobre la calidad del software y los procedimientos de calidad de Techtronics. Como presidente, siempre he insistido en la calidad como la primera de nuestras misiones. Puedo asegurar que nuestros procedimientos siempre han estado enfocados a la calidad, y que no se ha escatimado ningún recurso para aplicar procedimientos de alta calidad en el desarrollo del software empotrado en el Robot CX30. Quiero decir públicamente que quien haya sido responsable de esta negligencia será despedido de nuestra compañía”.

Escena 6
Mabel entrevista al profesor Pedro Ponce, conocido especialmente desde su artículo “Cuáles son las aerolíneas que hay que evitar” (que designa como aquellas cuyos aviones están controlados casi completamente por software y con poca intervención de un piloto).
Mabel
Profesor, ¿quisiera explicarnos por qué el software no es fiable en muchas situaciones, como hemos visto con nuestra experiencia de los sistemas operativos Windows, el software hoy en día más usado, y por qué no confía en aplicaciones controladas únicamente por software de ordenadores empotrados?.
Profesor Ponce
Las aplicaciones programadas son los artefactos más complejos creados por los humanos. En cualquier momento el ordenador puede adoptar uno de los innumerables estados posibles, y es prácticamente imposible probar todos los estados en todas las condiciones: se necesitaría un tiempo de orden exponencial para ello. Las pruebas que se hacen son heurísticas, sólo de aquellos módulos en los que se considera más probable que se encuentren los errores.
El Presidente Miguel me ha contratado porque confía en que sus supervisores de calidad cumplen con los estándares de control de calidad. Los procesos de control de calidad son metodologías que aseguran que un software es fiable, y se aplican durante todo el ciclo de vida del desarrollo del software. El resultado de mi investigación es que Tectronics sigue unos procedimientos estándar pero observé una discrepancia entre los datos arrojados por el robot asesino y los de archivo proporcionados por el departamento de pruebas. Esto podría entenderse de diversas maneras: una, que hubo sabotaje y se instaló una versión no probada en vez de la versión probada; y otra, que los datos archivados y usados para la aprobación del proyecto fueron falsificados.
El profesor Ponce insiste en que ha llevado a cabo una investigación imparcial encargada por la corporación.

Responda ahora a las pregunta siguiente. Le recomiendo que reflexione y responda. De este modo el ejercicio tiene un mayor valor de aprendizaje.

1- Indique qué personajes le resultan moralmente responsables de la muerte de Mateo
Engracia y a qué personajes eximiría de toda responsabilidad. Indique el grado de
responsabilidad que otorgaría a cada uno de ellos y por que razon en donde
: MA (muy alto), A (alto), I (intermedio), B (bajo), MB (muy bajo), EE (eximido de toda responsabilidad y de ética profesional
intachable), ENE(eximido de toda responsabilidad pero de ética profesional dudosa).

luego q est mejor termino d leer la historia y comento bye bsos

Esto va de parte de Camila Celis y Lina Ospina
Nos parece que la tecnologia ha llegado demasaido lejos y todo porque el ser humano lo ha permitido.
estamos de acuerdo con la frase del profe " la mejor arma para la ignorancia es el estudio" para nuestro futuro el estudio va a ser lo que nadie nos va a quitar y nos acompañara`por el resto de nuestras vidas!
seguiremos particìpando los queremos

[right]laura quintana
[center]para mi el culpable es raul murcia ya que es una persona muy egocentrica, perfeccionista y ademas no dejaba que los demas hicieran las cosas o le djeran sus errores y me parece que por ser haci se pudo haber descuidado en una digitalizacion de las ecuaciones para programar el robot

Todo indica que Murcia es el culpable, pero analisemos tambien a otros protagonistas por que no?