Un investigador asegura que la IA acabará con la humanidad

24 visitas

votos: 8 · 2

karma: 112

l Dr. Roman V. Yampolskiy es el autor del libro "AI: Unexplainable, Unpredictable, Uncontrollable" que se lanzó hace unos meses y trata la naturaleza caótica y el peligro que conlleva el desarrollo de la inteligencia artificial. Este ha hablado de estos y muchos otros temas en la entrevista/podcast realizado por Lex Fridman en YouTube. Este ha indicado que el índice P(doom) o probabilidad de que una IA avanzada acabe con la humanidad es de prácticamente el 100% siempre y cuando la dejemos completamente libre.

inteligencia artificial, riesgos, agi, medidas de seguridad

comentarios (14)

#2 --511--

#1 ¿Cómo sabemos que no he ta mandado Skynet para que bajemos la guardia?

3 k 72
#4 juanda

... y un meteorito, o la vacuna del Covid, o una dieta nuclear, por flipar, que no quede.!!

2 k 60
#3 Pavon

Hay que elegir cataclismo. No vale decir todos. La humanidad sucumbirá al cambio climático, al peakoil, a la escased de alimentos por superpoblación, apocalipsis nuclear tercera guerra mundial, agujero de ozono, o gripe pandemica. Pero todos a la vez es imposible.

2 k 49
#1 marain

Esto de acabar con la humanidad es una gilipollez del tamaño de una cordillera.

En primer lugar por la falta de capacidad. Las AI o LLM actuales no hacen otra cosa que sacar medias de los datos de su entrenamiento, y luego buscan cual es la siguiente palabra más probable que continúa un texto. No saben ni lo que se les pregunta ni entienden su propia respuesta. Es realmente fácil hacerles decir tonterías sin que eso suponga ninguna diferencia.

El objetivo de una inteligencia general está muy lejos, tanto que no existe ningún camino ahora mismo que lleve hacia allí. El hardware actual no sirve pues no puede hacer ni el mínimo imprescindible. Tampoco hay ningún modelo teórico.

Para "destruir la humanidad" hace falta la voluntad de hacerlo, algo que una máquina no tiene ni puede inventárselo. Lo que hace la ciencia ficción y los profetas de chichinabo estos es suponerle a la máquina cualidades humanas. No existe nada de eso como no se hiciera a propósito, lo que tampoco tendría ningún sentido. Ahora mismo no existe ni la menor idea de por donde empezar semejante cosa.

2 k 47
#9 Tiburcio

La IA se perfecciona casi exponencialmente, la de ahora es un juego de niños comparada con la de dentro de 5 años. Está bien estar en alerta.

1 k 40
#10 tommyx

Vaya, un experto

1 k 38
#14 inconformistadesdeel67

#10

1 k 38
#12 omoloc

Ojalá

1 k 37
#13 inconformistadesdeel67

#12 Ya te vas convenciendo, deja EB y apúntate a algún equipo desarrollador de IA.

¿Y si en vez de eliminarnos experimentaran genéticamente con nuestros cerebros para que pudiésemos alcanzar la inteligencia, y sabiduría, optimas?

1 k 37
#6 Juan_Nervion

Otro agonias, y van...

1 k 32
#5 AshMostaza

#2

#3 Todo cuentos.

0 k 20
#7 Igorymi

#2 #4 Menos mal que no lo veré

0 k 20
#8 BLUESS

Pues tiene pinta.
El rasgo obsesivoide de estos años va en contra de la vida.

0 k 20
#11 Roboto7826

Dr. Roman V. Yampolskiy es claramente un nombre inventado.

0 k 10