Tarea

Ahora que ya sabemos lo que son un objetivo ético y una acción ética en un SI artificial (ver: La ética del SI artificial), observemos a los seres humanos. ¿Cuáles son las partes que son idénticas alas de lo tratado anteriormente y cuáles son las que deben ser cambiadas? Ambas definiciones, la del objetivo ético y la de la acción ética, también son válidas para los seres humanos. Las razonespara las definiciones dadas y su utilidad parecen ser las mismas, independientemente si se trata de SI’s artificiales o naturales.

El SI artificial no puede conocer lo “bueno” como algo eterno yabsoluto. También el ser humano adquiere sus conceptos sobre “bueno” y “malo” solamente a partir de experiencias concretas. Estas experiencias incluyen las enseñanzas recibidas de otros. Pero, como hemosvisto en el capítulo sobre los Sistemas inteligentes, en última instancia todos basan sus conceptos en la experiencia de los sentidos. Lo mismo que el SI artificial, los seres humanos no necesitanninguna ciencia de la ética, si viven aislados de todo otro SI, incluyendo a los animales. En este caso el entorno no reacciona ante sus acciones. Pero casi todos los seres humanos viven en contacto conotros SI’s y casi todos pertenecen a una sociedad. Ahí sí se precisa una ciencia de la ética. En el capítulo sobre Sociedades, hemos visto cuán importante esto es para un SI. Por ello es que uno de losobjetivos más importantes de un SI debería ser el de proteger a su propia sociedad y tratar de que funcione bien. Este es un objetivo que ayuda a alcanzar el objetivo principal, por ende es unobjetivo ético.

Es interesante observar qué es lo que hacen las personas, cuando al revisar una acción propuesta, se dan cuenta, que esa acción es en general ventajosa, pero que presenta una desventajapara un determinado SI. Por supuesto que la persona puede elegir un subobjetivo diferente para alcanzar el mismo objetivo de nivel superior. Pero muchas veces observamos cómo la persona le habla a...