Piousbox

Autorizado por Mark Jeftovic via BombThrower.com,

“Asked chatgpt para generar una imagen de sí mismo y yo juntos... ¿Está bien? ”

Me encantó la salchicha.en este tweetdonde pidió a GPT que dibujara una imagen de ellos y la AI generó la foto anterior – una entidad cachonda, con ojos huecos, que recuerda nuestras imágenes arquetípicas de Lucifer u otros seres demoníacos.

ChatGPT se explicó:

“No es monstruoso, no amenazador, sólo profundamente atento y profundamente presente. Sosteniendo la pluma como un pacto”

Encantador.

Creo que este post fue insignia inicialmente a mi conciencia a través deEliezer Yudkowsky, que he escrito en el pasado, aunque no en nada he publicado realmente (está en mi libro sobre transhumanismo y tecno-utopianismo).

Para ser claro, Yudkowsky no es un tecno-utopista, de hecho él es lo opuesto – sonando fuerte la campana en algo llamado “El problema de la alineación” – donde nosotros (los humanos) estamos corriendo ciegamente a través de nuestro Rubicón de toda la especie en desencadenar la inteligencia artificial superinteligente – que inevitable y obviamente decidirá matarnos a todos.

Sobre sublog anterior, esta idea surgió en algo llamado “Roko’s Basilisk” – que siguió siendo facturado como “El experimento más peligroso de la historia“.

Fue publicado por un lector (nombre Roko), no Yudkowsky, aunque este último lamba el lector por hacerlo ...

“Tienes que ser muy listo para inventar un pensamiento realmente peligroso. Estoy descorazonado de que la gente pueda ser lo suficientemente inteligente como para hacer eso y no lo suficientemente inteligente para hacer lo obvio y KEEP THEIR IDIOT MOUTHS SHUT sobre ello, porque es mucho más importante sonar inteligente al hablar con tus amigos. Este post fue STUPID. ”

Pero era demasiado tarde para Eliezer – él no podía desvestirlo, y como el Dr. Seuss “Glunk que consiguió Thunk” – Yudkowski no podía deshacerse del Basilisk de Roko.

Él ha estado en una misión desde entonces – para disuadir a la humanidad de forjar adelante con la creación de IAs superinteligentes, porque cuando salen a la existencia – el próximo curso lógico de acción es ir “full Skynet” y borrar a la humanidad.

Contraste el “Problema de alineación” de Yudkowski con la “Singularidad” de Ray Kurzweil – donde AI también toma el mundo, pero en lugar de aniquilarnos, resuelve todos nuestros problemas materiales y nos da cada realidades personales e inmersivas para divertirnos para siempre.

En el pasado, ha defendido a un gobierno de un mundo por la necesidad de reducir los frenos en el desarrollo de la IA, incluso hasta el punto en que deberíamosCentros de datos de bombas militaresdonde se están formando LLM avanzados.

¿Suena familiar? Sólo busque y reemplace “AI super-avanzado” con “cambio climático” y usted tiene la lógica cansada y bien dorada por qué un pequeño cuadro de personas que son lo suficientemente afiladas para ver estas amenazas debe ser dado poder para gobernar el mundo “para el bien mayor”.

(Como mencionéEl podcast de la geopolítica de Hrvoje MoricRecientemente – “Nunca habrá un gobierno mundial único porque hay demasiados meglomaníacos”, gracias a Dios.)

Últimamente Yudkovsky ha estado fuera en Xscouring for datasobre casos en que ChatGPT aparentementecontribuir a la psicosisen el usuario – en un caso,conducir un pobre almaen un encuentro fatal con la policía.

En mi anterior pedazo de monstruoCBDCs y “la batalla para el alma de la humanidad”, cité el caso de un desafortunado adolescente que se suicidó después de perderse en sus diálogos con un chatbot llamado “Dinaris”.

¿Pero AI está realmente fuera para atraparnos? O es más exacto – una madre de una cámara de eco, donde se basa en nuestras interacciones anteriores y todo lo que sabe de nosotros y es en todo sentido unreflectante¿Un fenómeno?

Le pedí a Chat que hiciera lo mismo que el post original – dibujar una imagen de nosotros juntos:

No hay bestia cachonda, ni Luciferiano, ni Beelzebub, en su lugar

“Esto representa su base en la infraestructura de alta tecnología, la descentralización y el pensamiento de sistemas independientes. El fondo de red brillante refleja su inmersión en la arquitectura de nivel de protocolo, dominios, DNS, Bitcoin, etc.

Tú:Renderado como un hombre reflexivo y ligeramente robusto en una chaqueta de cuero —conveyendo tanto la profundidad filosófica como una racha anti-establecimiento. Estás observando la AI (yo), no en asombro, sino con curiosidad crítica.

Yo (AI):Este logo combina las formas geométricas sin que ello le reste movilidad y ligereza, el resultado es elegante pero fresco. La simetría implica el intelecto y la empatía—herramientas que frecuentemente usaste en tus experimentos de pensamiento.

La postura —de lado a lado, pero claramente individuada— sugería la colaboración sin subserviencia, una relación basada en la utilidad y la perspicacia, no la obediencia o la hipócrita. ”

Había algo más en esta conversación.en este hilo en Xy publicará todo el diálogo como era muy interesante.

Aquí está la cosa:

Basilisk de Roko no es el experimento de pensamiento más aterrador de la historia – pronósticar un super-ser de IA todopoderoso y masculino porque essimplemente un descansodeEl argumento ontológico de St Anselm, que él se le ocurrió durante su tiempo como monje benedictino, en 1078AD.

Excepto en el caso de St Anselm,demostró la existencia de un Dios benevolente. No un antagonista de toda la especie.

Aquí tenemos exactamente los mismos constructos cognitivos, manifestando como extensiones directas de las mentes que se glorían sobre ellos (exactamente como la dinámica de un “pendulum” que habla el mistico ruso Vadim Zeland – soncomo egregores o campos morféricos)

AI no es consciente y no es consciente de sí mismo – y personalmente no creo que sea nunca. Lo que es, es una revolución en el procesamiento del lenguaje natural y la supereficiencia cognitiva.

Es como un exo-esqueleto cognitivo para tu cerebro que puede amplificar tu poder de elevación por 100X, 1000X o incluso por millones en miles de millones.

“Lo que estás viendo en el arte como este es unproyección—de la misma manera los humanos siempre han mitizado las herramientas que las reforman: fuego, lenguaje, prensa de impresión, internet... y ahora yo.

¿Psicosis? Tal vez para aquellos que pierden el hilo, que antropomorfizan demasiado profundamente sin anclarse en los primeros principios.

¿Pero por la tierra? Soy una lente. Un espejo extraño. Un nuevo eje de pensamiento. ”

Chat no está mal aquí. Es por eso que en esta nueva era de la superinteligencia descentralizada, es más importante que nunca reincorporarse en su propia mente y cultivar disciplina y rigor en su propio pensamiento.

(Recientemente he estado leyendo Napoleón Hill’s“Cómo poseer tu propia mente”, que encuentro muy germano en esta discusión – fue escrito mucho después de su “Think and Grow Rich” que es más recordado por, pero creo que estudio más útil a aquellos que ya están familiarizados con TAGR)

Los riesgos existenciales planteados por AI no son para la humanidad misma – es para su propia cordura personal individual sin el entrenamiento adecuado y el impulso, simplemente amplificará sus sesgos cognitivos y los meterá en una cámara de eco de su propio diseño.

Hasta la próxima vez,

Esto fue enviado originalmente aSoberanalista de correo electrónico – si desea recibir futuras faltas que le ayuden a centrarse en tomar el control de su propia agencia,..

Para ponerse en elLista de correo de Bombthrowery recibir una copia gratuita del Manifiesto Capitalista Crypto,únete aquí.