Заработать на апокалипсисе Сооснователь Skype и богатейший житель Эстонии Яан Таллинн считает, что искусственный интеллект с двузначной вероятностью уничтожит человечество. Поэтому он ещё в 2021 году вложился в Anthropic и теперь готовится получить миллиарды от её IPO. Таллинн обеспокоился судьбой человечества в 2008 году после знакомства с работами Элиезера Юдковского. В 2011-м он обсуждал риски с будущим главой Anthropic Дарио Амодеи и оценил вероятность гибели людей из-за ИИ как двузначную: «Для меня это выглядит так, будто мы пытаемся обезвредить бомбу». Амодеи тогда ответил осторожнее: возможно, бомба существует, а возможно, нет — и не исключено, что именно попытка её обезвредить приведёт к взрыву. Спустя десять лет они всё же решили обезвреживать её вместе. В 2021 году Таллинн возглавил первый раунд Anthropic на $124 млн. Стартап оценили всего в $461 млн: традиционные венчурные фонды считали его бесперспективным рядом с OpenAI. Теперь Anthropic готовится к IPO, оценка на котором, по ожиданиям инвесторов, может превысить $2 трлн. Ну а что Таллинн? Разводит руками: если бы не вложился он, многомиллиардную долю в компании мог бы получить беспринципный инвестор. Его вряд ли бы волновала судьба человечества; и уж тем более он бы не стал финансировать независимые организации, проверяющие ИИ. А Таллинн стал. По словам бизнесмена, чьё состояние оценивают в $12 млрд, он уже направил на такие проекты около $170 млн; в том числе помог создать Кембриджский центр изучения экзистенциальных рисков и Future of Life Institute. Правда, купить влияние оказалось сложнее, чем долю. Ранее Таллинн инвестировал в DeepMind и вошёл в совет директоров, однако основатели, по словам автора книги о компании Себастьяна Маллаби, его практически не слушали. В Anthropic по мере роста компании голос отдельного акционера также становился «всё слабее и слабее». Сам он при этом не производит впечатления человека, круглосуточно ожидающего конца света, пишет WSJ. Таллинн танцует хип-хоп, спит по четыре-пять часов и недавно арендовал самолёт из Дели в Париж, где вместе с Йошуа Бенжио, Стюартом Расселом и пианисткой Серен обсуждал сознание машин за шампанским. В принадлежащей Таллинну инвестиционной компании Metaplanet уже думают, куда потратить заработанное. Но и возможный провал IPO управляющий партнёр Раунo Мильянд тоже считает приемлемым результатом: «Если Anthropic обнулится, это будет хорошо: вероятно, мы не достигли сверхинтеллекта, а человечество купило себе ещё несколько лет». В общем, либо миллиарды, либо человечество пока поживёт. А казино всегда в выигрыше. @anti_agi