5 preguntas para Samuel Hammond
Entretenimiento

5 preguntas para Samuel Hammond

Posted on by Christie

Hola y bienvenido a la edición de esta semana de Future In Five Question. Para comenzar el año 2024, invité al economista senior de la Fundación para la Innovación Estadounidense, Samuel Hammond, a responder nuestro cuestionario. Hammond será una voz familiar para los lectores del DFD, ya que recientemente escribió en la revista POLITICO que necesitamos una Proyecto Manhattan para la seguridad de la IA ya que una inteligencia artificial que podría superar o igualar a la mayoría de los humanos podría surgir en menos de una década. Aquí hablamos sobre la falsa promesa de la carne sintética, la misión del capitalismo y la desesperada necesidad de que el gobierno se ponga al día con la era de la IA. Lo siguiente ha sido editado y condensado para mayor claridad:

¿Cuál es la tecnología que crees que está sobrevalorada?

Carne cultivada y sustitutos de la carne de origen vegetal. Los ambientalistas y opositores a las granjas industriales han promocionado la carne sintética durante una década. Y hay que reconocer que la estrategia tiene sentido. Los humanos son omnívoros y no están dispuestos a ser regañados para que se vuelvan veganos. Pero si se puede cultivar en el laboratorio un filete o una hamburguesa deliciosos y venderlos a un precio asequible, la gente podría cambiar automáticamente. Se lanzaron muchas empresas emergentes en torno a esta tesis y se recaudaron millones de dólares en capital de riesgo, pero los inversores han comenzado a darse cuenta de que la tecnología simplemente no está lista para la comercialización. Tomemos como ejemplo a Beyond Meat, el fabricante de Beyond Burger, de origen vegetal. Sus acciones cotizaban a 140 dólares hace unos años, pero desde entonces se han desplomado hasta menos de $9 una parte y, según se informa, ahora están en modo de supervivencia.

Todavía existe la posibilidad de que los sustitutos de la carne eventualmente funcionen con más investigación y desarrollo y avances en biología sintética, pero estos esfuerzos recientes fueron muy inoportunos. Los inversores simplemente subestimaron el desafío de ingeniería que supone replicar todo el sabor y la textura de la carne real en todas sus variaciones. Hasta que se cruce ese umbral, sospecho que las carnes cultivadas y otros sustitutos de la carne seguirán siendo un súper nicho, y mucho menos tendrán la demanda de los consumidores para justificar las valoraciones de la industria tecnológica.

¿Cuál es una gran idea subestimada?

Primacía de los accionistas. Capitalismo de partes interesadas está de moda estos días, pero creo que fundamentalmente no entiende para qué sirven las corporaciones. Como señaló el jurista Henry Hansmann, todas las empresas pueden considerarse como una especie de cooperativa. Así como los productores de leche pueden formar una cooperativa de proveedores para agrupar su leche, las sociedades anónimas son como una cooperativa de prestamistas; Los inversores reúnen su capital con un descuento con la promesa de un rendimiento futuro. Lo que tienen en común es que tanto la leche como el capital financiero son homogéneos (sin juego de palabras). Es sencillo compartir las ganancias en una cooperativa lechera simplemente calculando quién contribuyó con la mayor cantidad de leche. Sin embargo, en el caso de formas de producción más complejas, no siempre está claro cómo asignar el crédito. Las corporaciones de accionistas resuelven esto compartiendo las ganancias según quién aportó más capital. Por lo tanto, la propiedad fluye hacia donde los costos de negociación son más bajos. De hecho, sin la sociedad anónima, sería imposible construir y financiar algo de escala o complejidad significativa.

La opinión popularizada por Milton Friedman –que la única obligación de una corporación es maximizar el valor para los accionistas– ha desviado el debate. Más bien, deberíamos pensar en el capitalismo como una competencia estructurada, como un partido de fútbol, ​​donde las empresas compiten agresivamente en cuanto a la calidad y el costo de los productos para crear valor para la sociedad en su conjunto. Si maximizas tus beneficios contaminando un río o defraudando a tus clientes, no estás jugando limpio. Pero estas reglas deberían hacerse cumplir a través de leyes y árbitros regulatorios. Si, en cambio, se convierte al medio ambiente o a sus clientes en “partes interesadas” explícitas, se corrompe el propósito del gobierno corporativo, ya que los intereses de diferentes partes interesadas a menudo van en diferentes direcciones y no son fácilmente ponderados por su contribución relativa.

¿Qué libro marcó más su concepción del futuro?

“Nonzero: La lógica del destino humano” de Robert Wright y “La evolución de Dios” tuvieron una gran influencia en mí. “No cero” tiene que ver con la lógica de los juegos de suma positiva y en los que todos ganan para dirigir la historia humana. Tomemos como ejemplo la globalización. Si hay grandes ganancias potenciales de dos o más países, habrá una especie de gravedad económica que los empujará hacia la cooperación y la integración mutuas. “La evolución de Dios” aplicó esa misma lente a la historia de la religión. El mensaje cristiano de amar al prójimo surgió durante un período de globalización regional, por ejemplo.

Sin embargo, no podemos dar por sentado este análisis, como si hubiera un inevitable arco en la historia a favor de la interdependencia económica y la paz. La interdependencia también puede convertirse en un arma, la globalización puede imponer costos a los trabajadores que no son compensados ​​automáticamente, y la integración económica puede convertirse en formas de integración política que socavan la soberanía popular e invitan a una reacción violenta. Éstas son lecciones que ahora estamos aprendiendo por las malas. Por lo tanto, mi concepción del futuro, y del proceso histórico en general, depende de si nuestras instituciones pueden adaptarse adecuadamente para evitar conflictos innecesarios y garantizar que la siguiente etapa de disrupción tecnológica sea verdaderamente beneficiosa para todos.

¿Qué podría estar haciendo el gobierno con respecto a la tecnología que no esté haciendo?

El gobierno de Estados Unidos necesita desesperadamente una modernización total. Con esto no me refiero sólo a actualizar los sistemas de TI o ajustar marginalmente el proceso de adquisiciones. Más bien, sospecho que la llegada de la inteligencia artificial general requerirá que nuestras instituciones sean rediseñadas desde cero. La última vez que esto sucedió fue a principios del siglo XX, cuando los líderes de la industria del Era progresista introdujo la nueva ciencia de la gestión en el Estado administrativo moderno. Necesitamos algo análogo para la era de la IA: un camino para que los líderes de la industria tecnológica ingresen al gobierno, eliminen procesos y procedimientos anticuados y apliquen sus conocimientos sobre cómo implementar tecnología a escala.

¿Qué es lo que más te ha sorprendido este año?

Me sorprendió gratamente la inclusión de un umbral de cálculo en la orden ejecutiva de la Casa Blanca sobre IA. La EO invoca la Ley de Producción de Defensa para exigir que cualquier persona que entrene un modelo de IA con 10^26 o más FLOPS de cómputo revele sus pruebas de seguridad al Departamento de Comercio. Por contexto, eso es aproximadamente dos órdenes de magnitud más de computación que la que se ha utilizado en el entrenamiento de cualquier modelo de IA lanzado hasta la fecha. Sugiere que la Casa Blanca está mirando hacia el futuro y tomando en serio los riesgos de ampliar sistemas poderosos similares a los AGI, en lugar de centrarse exclusivamente en riesgos a corto plazo como el sesgo y la discriminación. Si bien la EO tiene sus críticos, representa un enfoque mucho más racional y ligero para la seguridad de la IA que, por ejemplo, el de la UE. Ley de IA. Ya sea que vaya lo suficientemente lejos o no, al menos alguien está prestando atención.

El jefe digital de la Unión Europea es viniendo a America.

Edith Hancock y Giovanna Faggionato de POLITICO informaron esta mañana (para profesionales!) en una visita inminente de la Comisaria de Competencia de la UE, Margrethe Vestager, quien se reunirá con los directores ejecutivos de Apple, Google, Nvidia, OpenAI y Broadcom después de hablar en la conferencia de prensa de la próxima semana. Conferencia tecnológica antimonopolio en Palo Alto, California.

El viaje es el primero de Vestager a Estados Unidos desde que regresó a su puesto como vicepresidenta de la Comisión Europea en diciembre después de una oferta fallida para dirigir el Banco Europeo de Inversiones. La agenda del destructor de confianza danés incluye conversaciones con la directora de tecnología de OpenAI, Mira Murati, y el director de estrategia, Jason Kwon, mientras la UE contempla las etapas finales de su planeada Ley de IA.

Un grupo de alto perfil de pensadores políticos y de IA están lanzando una organización sin fines de lucro que intentará construir un marco filosófico para el desarrollo de la IA.

en un Publicación de substack ayer Brendan McCord, profesor visitante de filosofía en la Universidad de Oxford y ex tecnólogo del Departamento de Defensa, anunció el lanzamiento del Instituto Cosmos para construir un «marco que identifique cómo la IA podría mejorar la libertad y la excelencia humanas, siendo realista al mismo tiempo en cuanto a las compensaciones». y desventajas”.

McCord escribe que si bien sus preocupaciones sobre el riesgo de la IA incluyen lo catastrófico y existencial hasta cierto punto, sus “preocupaciones por el riesgo van en líneas humanistas”.

“¿Cómo podemos evitar una reducción de la libertad humana, una disminución de las expectativas de excelencia humana, una pérdida de significado y propósito ordinario y el borrado de la dignidad humana, sin mencionar el pánico, la desorientación y la agitación?” el escribe. “¿Qué elementos de nuestra humanidad puede mejorar la tecnología? ¿Qué elementos corremos el riesgo de perder?”

Entre los miembros fundadores del instituto también se encuentra el influyente escritor sobre IA. Jack Clarkel filósofo de Oxford Philipp Koralus, y Tyler Cowen, economista de la Universidad George Mason y autor del Revolución marginal Blog.