¿Porqué tenemos miedo de la singularidad tecnológica?
Bueno, segun este sitio, estas son las diez razones más populares:
1. Extinción
La extinción es, con mucho, la más temida, así como la consecuencia más comúnmente predicha de la singularidad.
El apocalipsis mundial para la raza humana viene en muchos sabores, pero algunos de los más populares son: una SuperInteligencia Artificial (SIA) estilo “terminator”, -un “Robopocalipsis” ; una nanotecnología rebelde, -el escenario llamado plaga gris; armas inteligentes caseras de destrucción masiva,- utilizadas por terroristas y nihilistas; modificaciones o mutaciones genéticas, -nos convierten en muertos vivientes; experimentos científicos fallidos, -el Gran Colisionador de Hadrones creando un agujero negro que engulle el planeta …
En pocas palabras, el temor es que, como Bill Joy notoriamente señaló: el futuro no nos necesita .
2. Esclavitud
Tal vez la segunda razón más común para temer la singularidad es la esclavitud potencial o sometimiento de toda la raza humana. El argumento es bastante simple:
Una vez que tengamos una SIA dejaremos de ser las entidades más inteligentes de este planeta. En otras palabras, hemos creado dioses sin dejar de ser simples humanos. Así, si por cualquier razón las máquinas deciden no exterminarnos, entonces, lo más probable es que, ya que serán muy superiores a nosotros, nos esclavicen. Esto se puede realizar de varias maneras: ya sea explícitamente, -dándonos cuenta de nuestra esclavitud, o implícitamente, -sin darnos cuenta (los escenarios Matrix/Simulación).
3. La III Guerra Mundial – Guerra Giga
El tercer temor más común de la singularidad es, por supuesto, la Tercera Guerra Mundial. Una guerra de una escala sin precedentes, con una sofisticación y eficiencia de muerte y destrucción que podría ser el resultado de o bien un choque entre la raza humana y la IA o entre diferentes facciones de los seres humanos: por ejemplo, la “Guerra ArtIlect” de “terranos” contra “cosmists” según lo previsto por Hugo de Garis. Cualquiera que sea el caso, probablemente provocará miles de millones de muertes y un colapso o la completa erradicación de nuestra civilización.
4. Colapso Económico
Algunos han argumentado que, si de alguna manera nos las arreglamos para evitar los tres escenarios anteriores, entonces, estaríamos propensos a experimentar un total colapso económico:
La absoluta robotización de nuestra sociedad es probable que conduzca a la sobreproducción de bienes y servicios. Sin embargo, ya que se afirma que la mayoría de personas perderán sus puestos de trabajo debido a los robots, habrá una tasa de desempleo mundial de escala sin precedentes que a su vez derrumbará la demanda de esos bienes y servicios robóticos. Combine esto con la explosión de una población de 9 o incluso 10 millones de personas en su mayoría desempleados que no tengan medios para crear ingresos y comprar cualquier cosa, y veríamos un colapso económico global.
5. Gran Hermano IA
Este escenario es una versión más suave de la opción Matrix de esclavitud/sometimiento porque estamos todavía bajo el control completo de una Inteligencia Artificial que todo lo sabe. La principal diferencia es que la IA no está haciendo nada más que lo que es mejor para nosotros, en lugar de lo que es mejor para ella: tenemos un benevolente, omnipotente y absoluto monarca que nos protege de nuestros peores enemigos, -de los demás seres humanos y de nosotros mismos. Todo se hace en nombre de la maximización de la seguridad, la prosperidad y la felicidad general para todas las personas en todo el planeta. El único aspecto negativo es un poco de propaganda y el “lavado de cerebro ideológico, político o religioso” necesario para apuntalar “el culto de la IA”, pero está bien, ya que es por nuestro propio beneficio.
6. La Alienación y Pérdida de la Humanidad
Siguiendo la máxima de “si no puedes vencerlos, únete a ellos”, una de las posibles maneras de sobrevivir a la singularidad es mediante la fusión con las máquinas. Esta idea, -que podemos y deberíamos mejorar lo que se nos ha transmitido por la madre naturaleza-, se refiere a menudo como transhumanismo. Fusionando hombre y máquina a través de la biotecnología, la nanotecnología molecular y la inteligencia artificial, aumentaríamos nuestras capacidades cognitivas, la fuerza física, la estabilidad emocional, la salud general y la longevidad.
El miedo, por supuesto, es que al hacerlo vamos a perder la esencia misma del ser humano, -nuestra naturaleza humana, nuestras almas humanas y la identidad humana. Por otra parte, a nivel colectivo, la pérdida de humanidad también significa alienación o pérdida de la comunidad que quiere decir que la variedad resultante de entidades posthumanas será tan distintas como para negar cualquier relación entre los diferentes individuos. Esto a su vez significa que la humanidad, de hecho, no sobreviviría, sino que sucumbiría a la invasión de la máquina y de hecho se extinguiría.
7. Catástrofe Ambiental
Nuestra historia muestra que nuestra destructividad ambiental está en proporción directa de nuestras proezas tecnológicas. Una vez que vivimos en una sociedad global donde todo es producido en serie por robots, nuestra civilización manufacturada cortará la última conexión con el mundo natural. Perderemos la última pizca de respeto por la madre naturaleza:
¿Por qué preservar la selva tropical si podemos crear una “mejor” e “inteligente”? ¿Por qué preocuparnos por la biodiversidad, la extinción de especies o la degradación del medio ambiente si podemos revivir y moldearlos para nuestros propios fines o placer?
¿Porqué preocuparse de algo si somos dioses (tecnológicos)?
8. Pérdida de la Historia, el Conocimiento y la Resolución espacial (Edad Oscura Digital)
El proceso cada vez más acelerado de la digitalización viene junto con una cierta pérdida o destrucción de datos. Estos datos pueden estar en forma de historia, tradiciones culturales, lenguas muertas o información científica importante. Por ejemplo, la NASA admitió recientemente que se ha perdido la capacidad de recuperar gran parte de los datos informáticos de algunas de las misiones Apolo y los alunizajes. Así ciertos tipos de conocimiento vitalmente importante y único, así como la historia o las tradiciones culturales se pierden para siempre. Para saber si estamos haciendo un buen negocio o no, debemos cuantificar las pérdidas de datos y compararlas con los beneficios potenciales. Sin embargo, a la velocidad vertiginosa que estamos avanzando pocos tienen tiempo para tales cálculos.
Parece que vivimos en un universo analógico con resolución infinita, – tanto para ampliar y reducir, en la medida que podamos. El proceso de digitalización captura una mera fracción de él. Al igual que un archivo .mp3 comprimido capta sólo una parte del desempeño musical actual, este proceso crea los símbolos que son representaciones digitales de la realidad. El temor es que podemos llegar a perder la conciencia de que el mundo digital es un reino de símbolos, -un mero reflejo del verdadero universo analógico-, terminando en la cueva de las ilusiones digital de Platón.
9. Computronium y Cerebros Matrioska
Por lo que sabemos parece que vivimos en un universo lleno de materia tonta. Esto, por supuesto, lo convierte en un universo bastante tonto también.
Sin embargo, extrapolando de nuestro propio desarrollo, parece que a medida que pasa el tiempo hay un movimiento de menos a más inteligencia en el universo. Por lo tanto, dado el tiempo suficiente, más y más de nuestro planeta y, con el tiempo nuestro universo, es probable que contenga y se componga de cada vez más materia inteligente. Este proceso es probable que continúe hasta que la ley de Moore se derrumbe y se alcance un equilibrio. Tal disposición teórica de la materia, -la mejor configuración posible de cualquier cantidad dada para lograr un dispositivo de computación absolutamente óptimo, es el sustrato también conocido como computronium.
Un cerebro Matrioska es una hipotética megaestructura de inmensa capacidad computacional. Basado en la esfera de Dyson, el concepto deriva su nombre de la muñeca rusa Matrioska y es un ejemplo de un ordenador de tamaño planetario alimentado con energía solar, capturando toda la producción de energía de una estrella. Para formar el cerebro Matrioska todos los planetas del sistema solar se desmontan y se crea un vasto dispositivo computacional habitado por mentes volcadas o virtuales, inconcebiblemente más avanzado y complejo que nosotros.
Así que la idea es que con el tiempo, de una manera u otra, toda la materia del universo será inteligente. Todo el polvo será polvo inteligente, y todos los recursos serán utilizados para su potencial óptimo de computación. No habrá nada más que cerebros Matrioska y/o computronium…
10. El Temor del Cambio
El miedo al cambio y el miedo a lo desconocido están profundamente arraigados en la psique humana:. Todos queremos estar cómodos. No saber es muy, muy incómodo. Al darse cuenta de que el cambio que se avecina es radicalmente único, – tanto en escala como en imprevisibilidad, es aún más desasosegante.
Cuando se trata de la supervivencia a nadie le gustan las sorpresas. Así lo tomamos como una cuestión tanto personal como de seguridad colectiva para modelar y, al menos, prever aproximadamente el futuro.
La singularidad es un cambio radical de proporciones cósmicas que es, por definición, imposible de modelar, y mucho menos predecir. Por lo tanto, no es ninguna sorpresa que evoque una profunda inseguridad y miedo primario.
La pregunta es: ¿Tienes miedo?¿No tienes mucho, mucho miedo?