ТЕСКРЕАЛ
ТЕСКРЕАЛ (англ. TESCREAL) — збірний акронім, що використовують для позначення низки ідеологій: трансгуманізму, екстропіанства, сингуляріанства, космізму, раціоналізму, ефективного альтруїзму та лонгтермізму[1][2]. Цей неологізм був запропонований інформатикинею Тімніт Гебру[en] та філософом Емілем П. Торресом[en], які вважають, що ці ідеології слід розглядати комплексно, оскільки вони мають спільне походження[1]. За їхньою оцінкою, ці течії дозволяють своїм прихильникам використовувати загрозу вимирання людства для виправдання низки дороговартісних і водночас деструктивних ініціатив. Вони також наголошують, що цей світогляд набув поширення в соціальних та академічних колах Кремнієвої долини, зокрема серед дослідників штучного інтелекту[3]. Акронім іноді застосовується як критика ідеології, пов'язаної з великими технологічними компаніями — Big Tech.[3][4][5]
Гебру та Торрес запровадили термін «ТЕСКРЕАЛ» у 2023 році, вперше використавши його у чорновому варіанті статті під назвою «The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence»[1][4]. Стаття була опублікована у квітні 2024 року в журналі First Monday, хоча термін набув популярності завдяки використанню Торресом і Гебру в інших контекстах ще до її публікації[6]. На думку Гебру та Торреса, трансгуманізм, екстропіанство, сингуляріанство, (сучасний) космізм, раціоналізм, ефективний альтруїзм та лонгтермізм утворюють набір пов'язаних ідеологій, погляди яких перетинаються та які мають спільне коріння в євгеніці ХХ століття та спільних попередників[1]. Автори використовують термін «ТЕСКРЕАЛіст» на позначення людей, які дотримуються більшості чи всіх ідеологій, представлених в акронімі, або підтримують їх.[1][3]
На думку критиків цих філософій, ТЕСКРЕАЛ описує взаємопов'язані рухи, підтримувані впливовими особами в технологічній індустрії, надаючи інтелектуальне підґрунтя для реалізації та пріоритизації проєктів, таких як створення загального штучного інтелекту (AGI), збільшення тривалості життя та колонізація космосу[1][4][7]. Письменник-фантаст Чарльз Стросс на прикладі космічної колонізації стверджував, що ці ідеології дозволяють мільярдерам реалізовувати масштабні особисті проєкти, натхненні правоконсервативним тлумаченням наукової фантастики, обґрунтовуючи це тим, що відмова від таких проєктів становить екзистенційну загрозу для суспільства[8]. Гебру та Торрес пишуть про те, що, використовуючи загрозу вимирання, ТЕСКРЕАЛісти можуть виправдовувати «спроби створення неконтрольованих систем, які за своєю суттю є небезпечними»[1]. Медіадослідник Ітан Цукерман зазначає, що, зосереджуючись виключно на цілях, які є цінними для руху ТЕСКРЕАЛ, можна виправдати футуристичні проєкти з більш безпосередніми недоліками, такими як расова нерівність, алгоритмічні упередження та деградація навколишнього середовища[9]. В інтерв'ю на Radio New Zealand політичний оглядач Даніл Маклаклан заявив, що багато з цих філософій могли починатися з добрих намірів, але з часом були доведені «до абсурдності»[10].
Філософ Йогі Гейл Гендлін стверджує, що, ігноруючи людські причини суспільних проблем і надмірно технізуючи рішення, ТЕСКРЕАЛісти не враховують контекст, у якому виникають ці проблеми[11]. Каміль Соджит Пейча у Document Journal написала, що ТЕСКРЕАЛ є інструментом для техноеліти, що дозволяє їм концентрувати владу[7]. Дейв Трой у The Washington Spectator назвав ТЕСКРЕАЛ рухом, що послуговується принципом «мета виправдовує засоби», і протиставив його «демократичному, інклюзивному, справедливому, терплячому й чесному управлінню»[4]. Гіл Дуран зазначив, що терміни «ТЕСКРЕАЛ», «авторитарна технократія» та «технооптимізм» використовувалися на початку 2024 року для опису нової ідеології, що формується у технологічній індустрії[12].
Гебру, Торрес та інші порівнюють ТЕСКРЕАЛ із секулярною релігією через його паралелі з християнською теологією та есхатологією[1][3][13][8][14]. Автори журналу Current Affairs зіставили ці філософії та пов'язаний із ними технооптимізм із «будь-якою іншою мономаніакальною вірою, де скептиків сприймають як ворогів, а переконання приймають без доказів». Вони стверджують, що реалізація ТЕСКРЕАЛ перешкоджатиме створенню дійсно справедливого й спільного майбутнього.[15]
Більшість дискусій про екзистенційну загрозу від загального штучного інтелекту (AGI) відбувається серед прихильників ідеологій ТЕСКРЕАЛ[9][16][17]. ТЕСКРЕАЛісти поділяються на дві групи: «акселераціоністів ШІ», які вважають ШІ єдиним шляхом до утопічного майбутнього, де всі проблеми будуть вирішені, та «катастрофістів ШІ», які вважають, що ШІ, ймовірно, буде несумісним із виживанням людства та може спричинити його вимирання[9][14]. Попри ризик, багато катастрофістів вважають розробку AGI неминучою і стверджують, що лише створивши та налаштувавши AGI першими, можна уникнути екзистенційної загрози[18][17].
Гебру порівнює конфлікт між акселераціоністами та катастрофістами із «секулярною релігією, яка продає утопію або апокаліпсис, зумовлені AGI»[14]. Торрес і Гебру стверджують, що обидві групи використовують гіпотетичні апокаліптичні сценарії, пов'язані зі ШІ, та утопічні майбутні перспективи для виправдання необмежених досліджень, розробок і дерегуляції технологій. Зосереджуючись лише на віддалених майбутніх наслідках, створюючи ажіотаж навколо неперевірених технологій і розганяючи страх, Торрес і Гебру звинувачують ТЕСКРЕАЛістів у відволіканні уваги від поточних ефектів технологій, які можуть негативно впливати на суспільство, завдавати непропорційної шкоди меншинам через алгоритмічну упередженість і погіршувати стан навколишнього середовища[5][13][17].
Неше Девенот використала акронім ТЕСКРЕАЛ для позначення «глобальних фінансових та технічних еліт», які просувають нові способи використання психоделічних препаратів як засобів для лікування психічного здоров'я. Вона стверджує, що їхньою метою є не допомога людям, а отримання прибутку від продажу цих фармацевтичних препаратів у рамках плану, спрямованого на збільшення нерівності[19].
Гебру та Торрес стверджують, що ідеології ТЕСКРЕАЛ мають пряме походження від євгеніки ХХ століття[1] і що цей набір ідеологій сприяє другій хвилі нової євгеніки[1][20]. Інші дослідники також заявляли, що ідеології ТЕСКРЕАЛ розвинулися з ранніх філософій, які використовувалися для виправдання масових убивств і геноциду[7][18]. Деякі відомі особи, які зробили внесок у формування цих ідеологій, були звинувачені в расизмі та сексизмі[16][21][22]. Маклаклан зазначає, що, хоча «деякі люди з цих груп хочуть генетично створити суперінтелектуальних людей або замінити весь людський вид на вищу форму інтелекту», інші, як-от ефективні альтруїсти, «своєю більшістю просто хочуть допомогти дуже бідним людям … вони певною мірою шоковані тим, що їх відносять до цієї зловмисної … змови щодо євгеніки»[10].
У статті для журналу Asterisk, пов'язаного з ефективним альтруїзмом, Озі Бреннан критикував Гебру та Торреса за об'єднання різних філософій, наче це єдиний «монолітний» рух. Бреннан стверджує, що Торрес неправильно зрозумів ці філософії та вирвав уявні філософські експерименти з контексту[23]. Джеймс Петокукіс із Американського інституту підприємництва не погоджується з критикою прихильників ТЕСКРЕАЛ. Він аргументує, що техномільярдери, яких критикували в Scientific American за їхню нібито підтримку ТЕСКРЕАЛ, зробили значний внесок у розвиток суспільства[24]. Даніл Маклаклан зазначив, що критики набору ТЕСКРЕАЛ заперечують проти того, що до нього відносять різнорідні та іноді суперечливі ідеології, але вважає, що ТЕСКРЕАЛ є вдалим терміном для опису та узагальнення багатьох «великих химерних ідеологій у Кремнієвій долині»[10]. Елай Сеннеш та Джеймс Г'юз, публікуючи в блозі технопрогресивного Інституту етики та новітніх технологій, стверджують, що ТЕСКРЕАЛ — це ліворадикальна теорія змови, яка безпідставно об'єднує різні філософії, не розуміючи їхніх взаємовиключних принципів[25].
Згідно з Торресом, «Якщо розробка передових технологій продовжуватиметься такими ж темпами, глобальна катастрофа майже напевно є питанням часу, а не ймовірності». Торрес вважає, що «можливо, єдиний спосіб досягти стану „екзистенційної безпеки“ — це уповільнити або повністю зупинити подальші технологічні інновації» та критикує лонгтермістський підхід, який стверджує, що технології, хоча й небезпечні, є необхідними для досягнення людською цивілізацією свого повного потенціалу.[26][23] Озі Бреннан стверджує, що пропозиція Торреса щодо уповільнення або зупинення технологічного розвитку є більш радикальною, ніж ідеології ТЕСКРЕАЛ, оскільки вона перешкоджає багатьом покращенням у якості життя, охороні здоров'я та зменшенні бідності, які забезпечує технологічний прогрес.[23]
Венчурний капіталіст Марк Андреессен самоідентифікувався як ТЕСКРЕАЛіст[10][9]. У жовтні 2023 року він опублікував «Маніфест технооптиміста», який Джаг Балла та Нейтан Дж. Робінсон назвали «досконалим прикладом» ідеологій ТЕСКРЕАЛ[15]. У цьому документі Андрессен стверджує, що більш розвинений штучний інтелект може врятувати незліченну кількість потенційних життів у майбутньому, а тих, хто працює над уповільненням або запобіганням його розвитку, слід засуджувати як убивць[7][9].
Ілона Маска часто описують як симпатика деяких ідеологій ТЕСКРЕАЛ[5][13][21][19]. У серпні 2022 року Маск написав у Twitter, що книга Вільяма Макаскілла про лонгтермізм What We Owe the Future є «майже повністю співзвучною» з його власною філософією[27]. Деякі автори вважають, що проєкт Маска Neuralink переслідує цілі, пов'язані з ТЕСКРЕАЛ[5][28]. Крім того, деякі експерти зі штучного інтелекту скаржаться на те, що компанія Маска XAI[en] фокусується на екзистенційному ризику, вказуючи на її зв'язки з течіями ТЕСКРЕАЛ[29][30]. Дейв Трой вважає, що наталістські погляди Маска походять від ідеалів ТЕСКРЕАЛ[4].
Також було висловлено припущення, що ідеям ТЕСКРЕАЛ симпатизує Пітер Тіль[5][13][31]. Бенджамін Светкі у The Hollywood Reporter написав, що Тіль та інші керівники Кремнієвої долини, які підтримують президентську кампанію Дональда Трампа 2024 року, просувають політику, спрямовану на закриття «регуляторів, чиї застарілі обмеження, такі як заборони на експерименти над людьми, уповільнюють прогрес у напрямку техноутопічного раю»[31].
Сема Альтмана та більшість членів ради директорів OpenAI описують як прихильників рухів ТЕСКРЕАЛ, особливо в контексті спроби його звільнення у 2023 році[13][32][14]. Гебру та Торрес закликали Альтмана відмовитися від дотримання ідеалів ТЕСКРЕАЛ[33]. Лорен Редо в Charlie Hebdo описала Сема Альтмана та низку інших керівників Кремнієвої долини як прихильників ідеалів ТЕСКРЕАЛ[13].
Самоідентифіковані трансгуманісти, Нік Бостром і Еліезер Юдковський, які обидва мають значний вплив у дискусіях про екзистенційний ризик від ШІ,[22] також були описані як лідери руху ТЕСКРЕАЛ[5][16][22]. Лорен Редо зазначила, що Бостром підтримував деякі ідеали, «які узгоджуються з рухом ТЕСКРЕАЛістів»[13].
Сем Бенкман-Фрід, колишній генеральний директор криптовалютної біржі FTX, був відомим і самопроголошеним членом спільноти ефективного альтруїзму.[34] Згідно з The Guardian, після банкрутства FTX адміністратори конкурсної маси намагаються повернути близько 5 мільйонів доларів, які, за їхніми твердженнями, були переказані некомерційній організації для сприяння купівлі історичного готелю. Готель було перепрофільовано для проведення конференцій і семінарів, пов'язаних із лонгтермізмом, раціоналізмом та ефективним альтруїзмом. За даними The Guardian, у цій нерухомості приймали ліберальних євгеніків та інших доповідачів, які, як стверджується, мали расистське та мізогінне минуле.[21]
Лонгтерміст й ефективний альтруїст Вільям Макаскілл[en], який часто співпрацював із Бенкманом-Фрідом для координації філантропічних ініціатив, також був описаний як ТЕСКРЕАЛіст.[1][4][9][19]
- ↑ а б в г д е ж и к л м Gebru, Timnit; Torres, Émile P. (14 квітня 2024). The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence. First Monday. 29 (4). doi:10.5210/fm.v29i4.13636. ISSN 1396-0466. Архів оригіналу за 1 липня 2024. Процитовано 27 червня 2024.
- ↑ Thomas, Alexander (2024). Systemic Dehumanization. The Politics and Ethics of Transhumanism. Techno-Human Evolution and Advanced Capitalism (вид. 1). Bristol University Press. с. 159—194. doi:10.2307/jj.14284473.9. ISBN 978-1-5292-3964-5. JSTOR jj.14284473.9.
- ↑ а б в г Torres, Émile P (15 червня 2023). The Acronym Behind Our Wildest AI Dreams and Nightmares. TruthDig. Процитовано 1 жовтня 2023.
- ↑ а б в г д е Troy, Dave (1 травня 2023). The Wide Angle: Understanding TESCREAL — the Weird Ideologies Behind Silicon Valley's Rightward Turn. The Washington Spectator. Архів оригіналу за 6 червня 2023. Процитовано 1 жовтня 2023.
- ↑ а б в г д е Ahuja, Anjana (10 травня 2023). We need to examine the beliefs of today's tech luminaries. Financial Times. Архів оригіналу за 11 грудня 2023. Процитовано 1 жовтня 2023.
- ↑ Torres, Emile (15 червня 2023). The Acronym Behind Our Wildest AI Dreams and Nightmares. Truthdig. Процитовано 8 вересня 2024.
- ↑ а б в г Pejcha, Camille Sojit (23 травня 2024). Techno-futurists are selling an interplanetary paradise for the posthuman generation—they just forgot about the rest of us. Document Journal (амер.). Архів оригіналу за 29 червня 2024. Процитовано 29 червня 2024.
- ↑ а б Stross, Charles (20 грудня 2023). Tech Billionaires Need to Stop Trying to Make the Science Fiction They Grew Up on Real. Scientific American (англ.). Архів оригіналу за 26 червня 2024. Процитовано 27 червня 2024.
- ↑ а б в г д е Zuckerman, Ethan (16 січня 2024). Two warring visions of AI. Prospect (англ.). Архів оригіналу за 1 липня 2024. Процитовано 29 червня 2024.
- ↑ а б в г McLauchlan, Danyl (6 липня 2024). Danyl McLauchlan: Silicon Valley's cult of tech utopianism (Інтерв'ю). Інтерв'юери: Susie Ferguson. Radio New Zealand. Процитовано 6 липня 2024.
- ↑ Hendlin, Yogi Hale (1 квітня 2024). Semiocide as Negation: Review of Michael Marder's Dump Philosophy. Biosemiotics (англ.). 17 (1): 233—255. doi:10.1007/s12304-024-09558-x. ISSN 1875-1342.
- ↑ Duran, Gil (12 лютого 2024). The Tech Plutocrats Dreaming of a Right-Wing San Francisco. The New Republic. ISSN 0028-6583. Архів оригіналу за 26 лютого 2024. Процитовано 4 серпня 2024.
- ↑ а б в г д е ж Redaud, Lorraine (2 серпня 2024). TESCREAL, l'idéologie futuriste qui se répand chez les élites de la Silicon Valley. Charlie Hebdo. Процитовано 7 серпня 2024.
- ↑ а б в г Piccard, Alexandre (30 листопада 2023). The Sam Altman saga shows that AI doomers have lost a battle. Le Monde (англ.). Архів оригіналу за 1 липня 2024. Процитовано 30 червня 2024.
- ↑ а б Bhalla, Jag; Robinson, Nathan J. (20 жовтня 2023). 'Techno-Optimism' is Not Something You Should Believe In. Current Affairs (англ.). ISSN 2471-2647. Процитовано 2 липня 2024.
- ↑ а б в Helfrich, Gina (11 березня 2024). The harms of terminology: why we should reject so-called "frontier AI". AI Ethics (англ.). doi:10.1007/s43681-024-00438-1. ISSN 2730-5961.
- ↑ а б в Heaven, Will Douglas (10 липня 2024). What is AI?. MIT Technology Review (англ.). Архів оригіналу за 17 липня 2024. Процитовано 4 серпня 2024.
- ↑ а б Van Rensburg, Wessel (7 червня 2024). AI and the quest for utopia. Vrye Weekblad. Архів оригіналу за 30 червня 2024. Процитовано 30 червня 2024.
- ↑ а б в Devenot, Neşe (29 грудня 2023). TESCREAL hallucinations: Psychedelic and AI hype as inequality engines. Journal of Psychedelic Studies. 7 (S1): 22—39. doi:10.1556/2054.2023.00292. ISSN 2559-9283.
Counterfactual efforts to improve mental health by increasing inequality are widespread in the psychedelics industry. These efforts have been propelled by an elitist worldview that is widely-held in Silicon Valley. The backbone of this worldview is the TESCREAL bundle of ideologies, ... While others have noted similarities between the earlier SSRI hype and the ongoing hype for psychedelic medications, the rhetoric of psychedelic hype is tinged with utopian and magico-religious aspirations that have no parallel in the discourse surrounding SSRIs or other antidepressants. I argue that this utopian discourse provides insight into the ways that global financial and tech elites are instrumentalizing psychedelics as one tool in a broader world-building project that justifies increasing material inequality.
- ↑ Torres, Émile P. (9 листопада 2023). Effective Altruism Is a Welter of Lies, Hypocrisy, and Eugenic Fantasies. Truthdig (амер.). Процитовано 30 червня 2024.
- ↑ а б в Wilson, Jason; Winston, Ali (16 червня 2024). Sam Bankman-Fried funded a group with racist ties. FTX wants its $5m back. The Guardian (брит.). ISSN 0261-3077. Архів оригіналу за 1 липня 2024. Процитовано 29 червня 2024.
- ↑ а б в Brownell, Claire (27 листопада 2023). Doom, Inc.: The well-funded global movement that wants you to fear AI. The Logic (амер.). Процитовано 2 липня 2024.
- ↑ а б в Brennan, Ozy (June 2024). The "TESCREAL" Bungle. Asterisk. Архів оригіналу за 12 червня 2024. Процитовано 18 червня 2024.
- ↑ Pethokoukis, James (6 січня 2024). Billionaires Dreaming Of a Sci-Fi Future Is a Good Thing. American Enterprise Institute. Архів оригіналу за 27 червня 2024. Процитовано 1 липня 2024.
- ↑ Sennesh, Eli; Hugh, James (12 червня 2023). Conspiracy Theories, Left Futurism, and the Attack on TESCREAL. Institute for Ethics and Emerging Technology — через Medium.
- ↑ P Torres, Émile (19 жовтня 2021). Dresser, Sam (ред.). Why longtermism is the world's most dangerous secular credo. Aeon (англ.). Процитовано 20 липня 2024.
- ↑ Kulish, Nicholas (8 жовтня 2022). How a Scottish Moral Philosopher Got Elon Musk's Number. The New York Times (амер.). ISSN 0362-4331. Процитовано 2 липня 2024.
- ↑ Kandimalla, Sriskandha (5 червня 2024). The dark side of techno-utopian dreams: Ethical and practical pitfalls. New University (амер.). Архів оригіналу за 30 червня 2024. Процитовано 30 червня 2024.
- ↑ Goldman, Sharon (24 липня 2023). Doomer AI advisor joins Musk's xAI, the 4th top research lab focused on AI apocalypse. VentureBeat (амер.). Архів оригіналу за 29 червня 2024. Процитовано 29 червня 2024.
- ↑ Torres, Émile P. (11 червня 2023). AI and the threat of "human extinction": What are the tech-bros worried about? It's not you and me. Salon (англ.). Архів оригіналу за 30 червня 2024. Процитовано 29 червня 2024.
- ↑ а б Svetkey, Benjamin (7 серпня 2024). "F*** These Trump-Loving Techies": Hollywood Takes on Silicon Valley in an Epic Presidential Brawl. The Hollywood Reporter (амер.). Процитовано 10 серпня 2024.
- ↑ Melton, Monica; Mok, Aaron (23 листопада 2023). 'Black Twitter' asks 'What if Sam Altman were a Black woman?' in the wake of ouster. Business Insider (амер.). Архів оригіналу за 3 березня 2024. Процитовано 29 червня 2024.
- ↑ Russell, Melia; Black, Julia (27 квітня 2023). He's played chess with Peter Thiel, sparred with Elon Musk and once, supposedly, stopped a plane crash: Inside Sam Altman's world, where truth is stranger than fiction. Business Insider. Архів оригіналу за 11 жовтня 2023. Процитовано 1 жовтня 2023.
- ↑ Wenar, Leif (27 березня 2024). The Deaths of Effective Altruism. Wired (амер.). ISSN 1059-1028. Процитовано 2 липня 2024.