Los científicos e investigadores valoran cada vez más la ciencia ficción por sus contribuciones a la anticipación de escenarios futuros. Como parte de su misión de explorar las direcciones hacia las que nos están llevando los cambios en la ciencia y los sistemas científicos, la Centro para el Futuro de la Ciencia Se sentó con seis autores destacados de ciencia ficción para conocer sus perspectivas sobre cómo la ciencia puede enfrentar los numerosos desafíos sociales que enfrentaremos en las próximas décadas. El podcast está en asociación con Naturaleza.
En nuestro sexto y último episodio, Cory Doctorow se une a nosotros para discutir el tema de la confianza en la ciencia y lo que podemos hacer para fortalecerla. Cubre temas relacionados con la inteligencia artificial y sobre algoritmos y modelos de entrenamiento. Doctorow quiere ver cómo se puede aprovechar el poder de coordinación de la tecnología digital para lograr un futuro más sostenible.
Cory Doctorow
Es autor de numerosos libros, el más reciente La causa perdida, una novela de ciencia ficción solarpunk de esperanza en medio de la emergencia climática y La estafa de Internet: cómo aprovechar los medios de computación y Equipo rojo azul. En 2020, fue incluido en el Salón de la Fama de la Ciencia Ficción y la Fantasía de Canadá. Nacido en Toronto, ahora vive en Los Ángeles.
Pablo Shrivastava (00:03):
Hola, soy Paul Shrivastava de la Universidad Estatal de Pensilvania. En esta serie de podcasts, hablo con algunos de los escritores de ciencia ficción más importantes del mundo. Quiero escuchar de ellos cómo la ciencia puede ayudarnos a abordar los múltiples desafíos que tenemos por delante. Después de todo, se ganan la vida pensando en el futuro y en cómo podría o debería ser.
En este episodio, hablo con Cory Doctorow, novelista de ciencia ficción, periodista y activista tecnológico. Durante las últimas dos décadas, ha publicado numerosos trabajos sobre monopolios tecnológicos y vigilancia digital. Nuestra conversación abordó la gestión de derechos digitales y la justicia social y la sostenibilidad en el mundo digital. Espero que lo disfruten.
Bienvenido Cory y gracias por ser parte de este podcast. ¿Puedes empezar contándonos un poco más sobre tu relación con la ciencia, en términos generales, y con la escritura de ciencia ficción?
Cory Doctorow (01:05):
Bueno, crecí en circunstancias extremadamente afortunadas para alguien interesado en la ciencia ficción. Crecí específicamente en Toronto en la década de 1980. Y había allí una mujer que era todo un torbellino en el campo, una mujer llamada Judith Merril, una gran escritora, editora y crítica. Fue la decana de la nueva ola británica de ciencia ficción. Y, entonces, Judy permitiría que cualquiera contara sus historias y las trabajara con ella, las criticaría. Entonces esto fue como… no lo sé. Es como recibir ayuda de Einstein para tu tarea de física. Y luego comenzó estos talleres de escritura donde los escritores prometedores que acudían a ella los reunía en reuniones semanales. Y así estuve en uno de esos durante muchos años, y tuve lo más cercano posible a un aprendizaje formal en ciencia ficción.
En términos de ciencia, ya sabes, soy un diletante. Lo más cerca que estoy de ser científico es tener un título honorario en informática de la Open University, donde soy profesor visitante de informática. Y, en particular, he tenido una excelente relación política con la informática porque durante más de 20 años he trabajado en un campo que podríamos llamar en términos generales derechos humanos digitales, relacionado con el acceso a la información, la censura, la privacidad y la equidad. en línea.
Pablo Shrivastava (02:17):
Así que profundicemos un poco más en algunas de estas cuestiones. Ha tratado una variedad de estos temas relacionados con los avances tecnológicos y en función de cuyos intereses y favores funcionan. Has hablado de tecnología de vigilancia en Little Brother, leyes de derechos de autor en cine pirata, a la criptomoneda en Equipo rojo azul. Muy a menudo, las narrativas retratan las consecuencias negativas del crecimiento tecnológico desenfrenado, o del crecimiento tecnológico al servicio del capitalismo, por así decirlo. Entonces, ¿cómo percibe el papel de la ciencia en este panorama cada vez más digital en el que estamos entrando?
Cory Doctorow (02:57):
Creo que no se puede tener ciencia sin equidad. En el sentido de que lo que distingue a la ciencia de las formas de creación de conocimiento que preceden a la Ilustración es el acceso, que es la condición previa para la revisión por pares adversaria. Y entonces, dejando de lado una obligación moral (que creo que podemos decir que todos tenemos deberes morales hacia los demás), creo que hay un argumento instrumental para decir que si a otras personas no se les permite inspeccionar sus datos y sus métodos, y tratas de replicar tu trabajo y criticarte libremente, entonces no estás haciendo ciencia. Los alquimistas hacían algo que se parecía mucho a la ciencia, ¿verdad? Observaron el mundo, formularon una hipótesis, diseñaron un experimento, ejecutaron el experimento y luego todos murieron por beber mercurio. Porque resulta que puedes engañarte pensando que el experimento fue un éxito hasta el punto de que el envenenamiento por mercurio te mata.
Cory Doctorow (04:05):
Y la diferencia entre la alquimia y la ciencia no es que los científicos que vinieron después fueran más inteligentes o menos propensos al autoengaño. Es que estaban sujetos a los rigores de la revisión por pares contradictoria, que como condición previa requiere publicación y acceso. Y creo que cuando hay una concentración de poder en el sector comercial, es decir, un monopolio, es muy difícil para los reguladores seguir siendo independientes. Esas empresas se vuelven demasiado grandes para quebrar y demasiado grandes para ir a la cárcel. Entonces se crean las condiciones para que la gente niegue la ciencia, lo que tiene consecuencias desastrosas para ellos mismos, pero también para todos nosotros.
Pablo Shrivastava (04:39):
Bueno, estoy de acuerdo contigo en que es necesario. Creo que la captura a la que te refieres por parte de las fuerzas de las corporaciones y los gobiernos, que son las dos fuentes principales de financiación de la ciencia, es completa. Y ahora consideramos la inteligencia artificial como un esfuerzo científico omnipresente que va a cambiarlo todo. ¿Qué tipo de recomendaciones políticas podría proponer para todo ese ámbito?
Cory Doctorow (05:09):
Bueno, me gustaría comenzar diciendo que, como la primera persona en mencionar la IA, les debes un trago a todos los demás en esta llamada. Esa es la regla ahora con la IA. Permítanme comenzar con una advertencia: no estoy convencido de que la IA sea lo que usted dice, un esfuerzo científico omnipresente que vaya a cambiarlo todo, por muchas razones. Soy escéptico de que, sin una supervisión estrecha, la IA pueda producir cosas confiables... que sean lo suficientemente confiables para usar en entornos de alto riesgo. Y si la supervisión requiere la misma diligencia que teníamos antes, entonces no sé si hay motivos para ello. Creo que si somos prudentes en términos de nuestra regulación y decimos: "Mira, si la IA puede alucinar y si la alucinación tiene consecuencias letales, la IA sólo puede ser supervisada en una especie de proporción de uno a uno". uno." Si el automóvil autónomo conduce de manera segura el 90% del tiempo y el 10% del tiempo acelera hacia el tráfico que viene en sentido contrario, entonces la cantidad de conductores-supervisores que necesita para cada automóvil autónomo es uno, es decir, no necesita llegar a despedir a un solo conductor. Así que ahora tienes un coche más caro.
Cory Doctorow (06:14):
Y creo que cualquier burbuja que dependa de seguir atrayendo capital de inversión que en su mayoría se prende fuego antes de que se genere algún retorno tiene que estar realmente basada en mucha publicidad. Y vemos ese revuelo a nuestro alrededor en gran medida. En lugar de preocuparse por las preocupaciones manifiestas reales sobre la IA, que es el algoritmo de apoyo a las decisiones que le niega una hipoteca debido a su raza, o que envía a su hijo a servicios de protección debido a su situación económica, o que le niega la libertad bajo fianza o la entrada a un En nuestro país, nos estamos centrando (francamente, en mi capacidad profesional) en la mala ciencia ficción sobre el autocompletado con esteroides, despertándonos y convirtiéndonos a todos en clips. Eso deja de lado las cosas materiales reales que suceden con la IA.
Pablo Shrivastava (07:08):
Entonces, ¿cuál es el papel de los comunicadores científicos a la hora de hacer estallar esta burbuja, el revuelo que se ha creado en torno a la IA? Quiero decir, la narrativa general es que va a cambiar todo. Y lo que escucho de usted es que hay algunas cuestiones fundamentales reales subyacentes.
Cory Doctorow (07:26):
Creo que hay algunas lagunas en la línea principal de comunicación científica sobre la IA que podrían colmarse de forma fructífera. Por eso nunca escuché un programa de divulgación científica describir los límites potenciales del aprendizaje federado. P.ej. ¿Qué pasa si apagamos los grandes servidores? ¿Qué pasa si los inversores simplemente siguen adelante? ¿Cómo será la IA si nunca entrenamos otro modelo importante y todo lo que hacemos es ajustar los modelos existentes que pueden ejecutarse en hardware básico? Y luego una taxonomía de aplicaciones que no son sensibles a los problemas comúnmente entendidos con la IA, es decir, aquellas de bajo riesgo o aquellas aplicaciones resilientes. ¿Cuáles son esas aplicaciones? Si tomamos todas las aplicaciones en las que se necesita supervisión individualizada, ¿cuáles son esas? Y los sacamos, ¿y luego qué queda?
Pablo Shrivastava (08:15):
Pasemos a hablar del período del Antropoceno. Los procesos que sustentan la vida ahora están cambiando, si no colapsando por completo. ¿Cómo podemos aprovechar el avance en el mundo digital, que usted ha cubierto de tantas maneras diferentes, para mitigar el impacto humano en el medio ambiente y garantizar un futuro sostenible?
Cory Doctorow (08:38):
Mi última novela es una novela sobre esto, se llama La causa perdida. Y lo que ha sucedido en esta novela no es un deus ex. No hemos descubierto cómo capturar carbono a un ritmo que desafíe todos los avances actuales. Pero lo que hemos hecho es que nos lo hemos tomado en serio. Aquí estamos, ya sabes, atrapados en este autobús, precipitándonos hacia un acantilado. Y la gente en las primeras filas y en primera clase sigue diciendo: no hay precipicio. Y si hay un precipicio, seguiremos acelerando hasta superarlo. Y una cosa que sabemos con certeza es que no podemos desviarnos. Si nos desviamos, el autobús podría volcar y alguien podría romperse el brazo, y nadie quiere romperse el brazo. Y éste es un libro en el que la gente agarra el volante y se desvía. Donde millones de personas están involucradas en proyectos muy serios a largo plazo para hacer cosas como reubicar cada ciudad costera, varios kilómetros tierra adentro.
Cory Doctorow (09:32):
Y esa adaptación climática, cuando se la contempla, es bastante vertiginosa. Puede resultar un poco desmoralizante pensar, bueno, supongo que todo el trabajo extra que todos tengamos durante los próximos 300 años se destinará a corregir estos errores tontos que cometimos antes. Y este es un libro que trata sobre ese proyecto. Y se trata de continuar ese proyecto siguiendo las ideas de una querida amiga mía que recientemente escribió un muy buen libro, Debbie Chachra, cuyo libro se llama Cómo funciona la infraestructura. Y Deb es una científica de materiales y señala que la energía es infinitamente abundante, pero los materiales son muy escasos. Y, sin embargo, durante la mayor parte de la historia de la humanidad, tratamos los materiales como si fueran abundantes, los usamos una vez y los desechamos. Y tratábamos la energía como algo escaso. Y hay una reorientación técnica que está latente en este libro y que Deb hace muy explícita en su libro, en la que hacemos cosas como usar más energía para producir cosas de modo que se descompongan más fácilmente en el flujo material.
Pablo Shrivastava (10:38):
Parece que estamos ocupados consumiendo el planeta a un ritmo sin precedentes. ¿Y puede la ciencia ficción ser de alguna manera una ayuda para ayudar a los humanos a reformular su visión del mundo para que sea más compatible con lo que está sucediendo aquí: nuestros desafíos en este planeta?
Cory Doctorow (10:54):
Bueno, y esto es algo sobre lo que he estado escribiendo desde mi novela. Alejarse, en 2017. Esta idea de que la abundancia surge del acceso a lo material, pero también de la construcción social de lo que queremos. Y finalmente, la eficiencia en la distribución de bienes. Soy propietario de una casa y eso significa que tres veces al año necesito hacer un agujero en la pared. Por eso tengo un taladro y, en broma, lo llamo el taladro mínimo viable. Es el taladro que es económicamente racional para alguien que hace tres agujeros al año. Y tengo que renunciar a un cajón entero para guardar este horrible taladro. Y lo que te das cuenta es que estás pagando un impuesto enorme, tanto por el calibre de los bienes que tienes como por la disponibilidad de espacio en tu hogar, para mantener el acceso a cosas que rara vez necesitas. Hay otro tipo de simulacro, a veces lo llamo el simulacro de socialismo bibliotecario, donde simplemente hay una nube estocástica de simulacros en su vecindario que saben dónde están, que mantienen la telemetría sobre su uso para mejorar la fabricación futura. Se descomponen fácilmente en la corriente material. Y siempre puedes echar mano de un taladro cuando lo necesites, y es el mejor taladro jamás creado.
Cory Doctorow (12:08):
Multiplica eso por las cortadoras de césped y los platos extra que guardas para Navidad o cenas, y todas las demás cosas que hay en tu casa que no necesitas todo el tiempo. Y ese es un mundo de enorme abundancia. Eso es más lujo. Y cuando se combinan esas tres cosas, la eficiencia del uso de materiales y energía, la naturaleza coordinativa de la tecnología y la ingeniería de nuestro deseo, hay un futuro en el que viviremos con una huella material y energética mucho menor y tendremos una huella mucho más vida lujosa. Una vida de enorme abundancia.
Pablo Shrivastava (12:42):
Sobre ese mensaje esperanzador, les voy a hacer una última pregunta. Y es decir, si hubiera una lección que la ciencia pudiera aprender de la ciencia ficción, ¿cuál tendrías en mente?
Cory Doctorow (12:56):
Yo diría que lo más importante que hace la ciencia ficción, con respecto a la ciencia, es desafiar las relaciones sociales de la tecnología y del descubrimiento científico y del conocimiento científico. La pregunta más importante sobre la tecnología rara vez es: ¿para qué sirve? Más bien, ¿para quién lo hace y a quién se lo hace? Y esa tecnología bajo control democrático es muy diferente de la tecnología impuesta a la gente.
La idea de que una tecnología diseñada con la humildad de comprender que no se pueden predecir las circunstancias bajo las cuales se utilizará esa tecnología (por lo que se deja espacio para que los propios usuarios la adapten) es el mejor de todos los mundos técnicos. Y cada idioma tiene un nombre para esto. Se podría llamarlo bodge, lo cual a veces es un poco peyorativo. Pero creo que a todos nos gusta un buen bodge. En francés es bricolaje. En hindi, es jugaad.
Pablo Shrivastava (14:00):
Jugad!
Cory Doctorow (14:02):
Cada idioma tiene una palabra para esto y nos encanta. Y sólo a través de la humildad de anticipar lo imprevisible, seremos los dignos ancestros de nuestros descendientes intelectuales que vendrán después de nosotros.
Pablo Shrivastava (14:22):
Gracias por escuchar este podcast del Centro para el Futuro de la Ciencia del Consejo Internacional de Ciencias realizado en asociación con el Centro para la Imaginación Humana Arthur C. Clarke de UC San Diego. Visite Futures.council.science para descubrir más trabajos del Centro para el Futuro de la Ciencia. Se centra en las tendencias emergentes en los sistemas científicos y de investigación y proporciona opciones y herramientas para tomar decisiones mejor informadas.
Paul Shrivastava, profesor de Gestión y Organizaciones de la Universidad Estatal de Pensilvania, presentó la serie de podcasts. Se especializa en la implementación de los Objetivos de Desarrollo Sostenible. El podcast también se realiza en colaboración con el Centro Arthur C. Clarke para la Imaginación Humana de la Universidad de California, San Diego.
El proyecto fue supervisado por Mathieu Denis y llevado por dong liu, A partir de la Centro para el Futuro de la Ciencia, el grupo de expertos del ISC.
foto de la Elimende Inagella on Unsplash.
Disclaimer
La información, opiniones y recomendaciones presentadas en nuestros blogs invitados son las de los contribuyentes individuales y no reflejan necesariamente los valores y creencias del Consejo Científico Internacional.