System Error: Where Big Tech Went Wrong and How We Can Reboot

مانیفست آینده‌نگر از سه استاد دانشگاه استنفورد - کارشناسانی که دهه‌ها در انقلاب فناوری کار کرده‌اند - که نشان می‌دهد وسواس بزرگ فناوری در بهینه‌سازی و کارایی چقدر ارزش‌های اساسی انسانی را قربانی کرده است و گام‌هایی را که می‌توانیم ترسیم می‌کند. تغییر مسیر دهیم، دموکراسی خود را تجدید کنیم و خود را نجات دهیم.

در یک چشم به هم زدن، یک خوش بینی ساده در مورد پتانسیل رهایی فناوری جای خود را به یک وسواس دیستوپیایی با الگوریتم های مغرضانه داده است. ، سرمایه داری نظارتی و روبات های جابجایی شغل. با این حال تعداد بسیار کمی از ما جایگزینی برای پذیرش پیشرفت تکنولوژی می بینیم. ما به سادگی آینده‌ای فناوری را پذیرفته‌ایم که توسط فن‌آوران، سرمایه‌گذاران مخاطره‌آمیز که آنها را تأمین مالی می‌کنند و سیاستمدارانی که به آنها اختیار می‌دهند طراحی شده است.

نیازی نیست که اینطور باشد.

خطای سیستم ریشه مشکل کنونی ما را آشکار می‌کند: تمرکز بی‌وقفه فناوری بر بهینه‌سازی چقدر آینده‌ای را پیش می‌برد که تبعیض را تقویت می‌کند، حریم خصوصی را از بین می‌برد، کارگران را جابجا می‌کند، و اطلاعاتی را که به دست می‌آوریم آلوده می‌کند. این طرز فکر بهینه‌سازی جایگزین ارزش‌هایی می‌شود که شرکت‌ها به آن اهمیت می‌دهند که ما به عنوان یک جامعه دموکراتیک ممکن است اولویت‌بندی کنیم. بهینه‌سازهای خوش‌نیت در اندازه‌گیری همه چیزهای معنادار شکست می‌خورند و وقتی اختلالات خلاقانه‌شان به مقیاس بزرگی می‌رسد، ارزش‌های خود را به بقیه ما تحمیل می‌کنند.

مسلح به درک چگونگی تفکر و اعمال قدرت فن‌آوران. ، سه استاد دانشگاه استنفورد - فیلسوفی که در تقاطع فناوری و اخلاق کار می کند، یک دانشمند علوم سیاسی که در دوره اوباما خدمت کرده است، و مدیر برنامه کارشناسی علوم کامپیوتر در استنفورد (همچنین یک مهندس اولیه گوگل) - نشان می دهند که چگونه می توانیم این قدرت را حفظ کنیم. برای پاسخگویی.

از ارزش‌هایی که در بدنه دانشجویی دانشگاه و فرهنگ آن نفوذ می‌کند، نگران بودند، آنها با هم کار کردند تا مسیر جدیدی را به جلو ترسیم کنند و مسیری پرطرفدار برای تغییر نحوه رویکرد فن‌آوران فردا به حرفه خود ایجاد کنند. اکنون، زمانی که تسلط فناوری‌های بزرگ به یک معمای انفجاری اجتماعی تبدیل می‌شود، آنها بینش‌های تحریک‌آمیز و راه‌حل‌های ملموس خود را به اشتراک می‌گذارند تا به همه کمک کنند تا بفهمند چه اتفاقی می‌افتد، چه چیزی در خطر است، و چه کارهایی می‌توانیم برای کنترل فناوری انجام دهیم به جای اینکه اجازه دهیم فناوری ما را کنترل کند.

A forward-thinking manifesto from three Stanford professors—experts who have worked at ground zero of the tech revolution for decades—which reveals how big tech’s obsession with optimization and efficiency has sacrificed fundamental human values and outlines steps we can take to change course, renew our democracy, and save ourselves.

In no more than the blink of an eye, a naïve optimism about technology’s liberating potential has given way to a dystopian obsession with biased algorithms, surveillance capitalism, and job-displacing robots. Yet too few of us see any alternative to accepting the onward march of technology. We have simply accepted a technological future designed for us by technologists, the venture capitalists who fund them, and the politicians who give them free rein.

It doesn’t need to be this way.

System Error exposes the root of our current predicament: how big tech’s relentless focus on optimization is driving a future that reinforces discrimination, erodes privacy, displaces workers, and pollutes the information we get. This optimization mindset substitutes what companies care about for the values that we as a democratic society might choose to prioritize. Well-intentioned optimizers fail to measure all that is meaningful and, when their creative disruptions achieve great scale, they impose their values upon the rest of us.

Armed with an understanding of how technologists think and exercise their power, three Stanford professors—a philosopher working at the intersection of tech and ethics, a political scientist who served under Obama, and the director of the undergraduate Computer Science program at Stanford (also an early Google engineer)—reveal how we can hold that power to account.

Troubled by the values that permeate the university’s student body and its culture, they worked together to chart a new path forward, creating a popular course to transform how tomorrow’s technologists approach their profession. Now, as the dominance of big tech becomes an explosive societal conundrum, they share their provocative insights and concrete solutions to help everyone understand what is happening, what is at stake, and what we can do to control technology instead of letting it control us.