El futuro

¿Por qué el futuro no nos necesita?

Bill Joy

Desde el momento en que me involucré en la creación de nuevas tecnologías, sus dimensiones éticas me han interesado, pero fue sólo en el otoño de 1998 me convertí ansiosamente consciente de lo grande que son los peligros que enfrentamos en el siglo 21. Yo puedo salir con la aparición de mi malestar al día que conocí a Ray Kurzweil, elmerecidamente famoso inventor de la primera lectura de la máquina para las otras cosas maravillosas y muchos ciegos.
Ray y yo estábamos oradores en la conferencia Telecosm de George Gilder, y lo encontraron por casualidad en el bar del hotel, después de que ambos tenían más de nuestras sesiones. Yo estaba sentado con John Searle, un filósofo Berkeley que estudia la conciencia. Mientras hablábamos, Ray seacercó y comenzó una conversación, el tema de lo que me atormenta hasta hoy.
Me había perdido la charla de Ray y el panel posterior que Ray y John había estado en, y ahora recogido hasta donde habían dejado, con Ray dijo que la tasa de mejora de la tecnología se va a acelerar y que íbamos a convertido en robots o fusible con robots o algo así, y John contrarrestar que esto no puede suceder, ya quelos robots no podían ser consciente.
Aunque había oído hablar así antes, siempre me había sentido robots sensibles estaban en el reino de la ciencia ficción. Pero ahora, de alguien a quien respetaba, estaba escuchando un fuerte argumento de que eran una posibilidad a corto plazo. Me sorprendió, sobre todo dado probada capacidad de Ray para imaginar y crear el futuro. Yo ya sabía que las nuevastecnologías como la ingeniería genética y la nanotecnología nos daba el poder para rehacer el mundo, pero un escenario realista e inminente para robots inteligentes me sorprendió.
Es fácil llegar cansado sobre tales avances. Escuchamos en las noticias casi todos los días algún tipo de avance tecnológico o científico. Sin embargo, esto no fue una predicción común.En el bar del hotel, Ray me dio unpre-impresión parcial de su entonces próximo libro La era de las máquinas espirituales , que describen una utopía que él previó - uno en el que los humanos ganaron cerca de la inmortalidad al convertirse en uno con la tecnología robótica. Al leerlo, mi sensación de malestar se intensificó, me sentí seguro de que había que subestimar los peligros, subestimar la probabilidad de un mal resultado eneste camino.
Me encontré con más problemas por un pasaje que detalla una disfunción escenario topian:
 
El nuevo desafío ludita
En primer lugar vamos a postular que los científicos de la computación tienen éxito en el desarrollo de máquinas inteligentes que pueden hacer todas las cosas mejor que los seres humanos pueden hacer ellos. En ese caso, probablemente todo el trabajo se llevará a cabopor grandes sistemas, altamente organizados de máquinas y no será necesario ningún esfuerzo humano. Cualquiera de los dos casos podría ocurrir. Las máquinas pueden ser autorizados a hacer todas sus propias decisiones sin supervisión humana, o el control de otro ser humano sobre las máquinas pueden ser retenidos.
Si se permite que las máquinas para hacer todas sus propias decisiones, no podemoshacer ninguna conjetura en cuanto a los resultados, ya que es imposible adivinar cómo estas máquinas podrían comportarse. Nosotros sólo señalamos que el destino de la raza humana estaría a merced de las máquinas. Se podría argumentar que la raza humana nunca sería tan tonto como para entregar todo el poder a las máquinas. Pero estamos sugiriendo ni que la raza humana se volvería voluntariamente elpoder a las máquinas ni que las máquinas sería deliberadamente tomar el poder. Lo que sugerimos es que la raza humana podría permitir fácilmente en sí a la deriva en una posición de tal dependencia de las máquinas que no tendría elección práctica sino aceptar todas las decisiones de las máquinas. Como la sociedad y los problemas que enfrentan a ser más y más complejos y las máquinas son cada vez...