Más allá de nuestra imaginación.
“En el artículo de 1965” Especulaciones sobre la primera máquina ultrainteligente “, Good presentó una prueba simple y elegante que rara vez queda fuera de las discusiones sobre la inteligencia artificial y la Singularidad:
Deje que una máquina ultrainteligente se defina como una máquina que puede superar con creces todas las actividades intelectuales de cualquier hombre, por inteligente que sea. Dado que el diseño de máquinas es una de estas actividades intelectuales, una máquina ultrainteligente podría diseñar máquinas aún mejores; indudablemente habría una “explosión de inteligencia”, y la inteligencia del hombre quedaría muy atrás. Así, la primera máquina ultrainteligente es el último invento que el hombre necesita hacer. . .
- ¿Cuáles son algunas nuevas ideas geniales que ayudarían a las personas?
- ¿Qué especialidad es buena para un médico al que le gustan las innovaciones científicas y los aparatos eléctricos?
- ¿Cuáles son algunas formas geniales e innovadoras en las que se puede usar Google Hangout?
- ¿Cuáles son algunos inventos y descubrimientos menos conocidos de los indios?
- ¿Qué tipo de innovaciones se pueden hacer en la gestión de aguas residuales?
La Singularidad tiene tres definiciones bien desarrolladas: Good, arriba, es la primera. Good nunca usó el término “singularidad”, pero comenzó a rodar al postular lo que él consideraba un hito ineludible y beneficioso en la historia humana: la invención de máquinas más inteligentes que las humanas. Parafraseando a Good, si haces una máquina superinteligente, será mejor que los humanos en todo lo que usamos nuestros cerebros, y eso incluye hacer máquinas superinteligentes. La primera máquina desencadenaría una explosión de inteligencia, un rápido aumento de la inteligencia, ya que mejoraba en varias ocasiones o simplemente hacía máquinas más inteligentes. Esta máquina o máquinas dejarían la capacidad intelectual del hombre en el polvo. Después de la explosión de inteligencia, el hombre no tendría que inventar nada más: todas sus necesidades serían cubiertas por máquinas.
Este párrafo del artículo de Good, con razón, se abre paso en libros, documentos y ensayos sobre la Singularidad, el futuro de la inteligencia artificial y sus riesgos. Pero dos ideas importantes casi siempre se dejan de lado. La primera es la oración introductoria del artículo. Es una maravilla: “La supervivencia del hombre depende de la construcción temprana de una máquina ultrainteligente”. La segunda es la segunda mitad de la última oración que se omite con frecuencia en el párrafo. La última oración del párrafo más frecuentemente citado de Good debería leerse en su totalidad:
Así, la primera máquina ultrainteligente es el último invento que el hombre necesita hacer, siempre que la máquina sea lo suficientemente dócil como para decirnos cómo mantenerla bajo control (énfasis mío) “.
¿Por qué una máquina superinteligente puede ser lo último que inventamos?