Онлайн книга
Примечания книги
1
Искусственный интеллект здесь и далее по тексту сокращенно обозначается ИИ (англ. – AI). Прим. ред.
2
Статистика Байеса – статистическая модель, предполагающая обновление сложившихся представлений в свете полученного опыта. Прим. ред.
3
Hawking, St., Russell, St., Tegmark, M., Wilczek, F. Stephen Hawking: «Transcendence Looks at the Implications of Artificial Intelligence – But Are We Taking AI Seriously Enough?» // The Independent. 2014. May 1 // http://www.independent.co.uk/news/science/stephen-hawkingtranscendence-looks-at-the-implications-of-artificial-intelligence-but-are-wetaking-9313474.html.
4
Момент Спутника – момент осознания обществом, насколько оно отстает от другой страны в технических и научных достижениях. Назван по прецеденту 1957 года, то есть реакции США на запуск СССР в космос первого искусственного спутника Земли. Прим. перев.
5
Mozur, P. Beijing Wants A. I. to Be Made in China by 2030 // The New York Times. 2017. July 20 // https://www.nytimes.com/2017/07/20/business/chinaartificial-intelligence.html?mcubz=0&_r=0/.
6
Jurvetson, St. Intelligence Inside // Medium. 2016. August 9 / https://medium.com/@DFJvc/intelligence-inside-54dcad8c4a3e/.
7
Nordhaus, W. D. Do Real-Output and Real-Wage Measures Capture Reality? The History of Lighting Suggests Not. – Yale University: Cowles Foundation for Research in Economics, 1998 // https://lucept.files.wordpress.com/2014/11/william-nordhaus-the-cost-of-light.pdf.
8
Часть долговременной тенденции по снижению стоимости вычислений; см. Nordhaus, W. D. Two Centuries of Productivity Growth in Computing // Journal of Economic History. 2007. Vol. 67/1. P. 28–159.
9
Lovelace, cit. in Isaacson, W. The Innovators: How a Group of Hackers, Geniuses, and Geeks Created the Digital Revolution. NY: Simon & Schuster, 2014. P. 27.
10
Lovelace, cit. in Isaacson, W. The Innovators: How a Group of Hackers, Geniuses, and Geeks Created the Digital Revolution. NY: Simon & Schuster, 2014. P. 27.
11
Тьюринг Алан (Alan Mathison Turing; 1912–1954) – английский математик, логик, криптограф, оказавший существенное влияние на развитие информатики. Предложил эмпирический тест Тьюринга для оценки ИИ компьютера. В честь ученого названа премия Тьюринга – самая престижная в мире награда в области информатики. Прим. ред.
12
Amazon уже работает над потенциальными проблемами безопасности по этому плану. В 2017 году она запустила Amazon Key – систему, позволяющую доставщикам открыть входную дверь клиента и оставить посылку внутри помещения. Происходящее записывается на видеокамеру для контроля.
13
Любопытно отметить, что некоторые стартапы уже мыслят в этом направлении. Stitch Fix использует машинное обучение для прогнозирования, какая одежда понравится пользователям, и отправляет им посылку. Затем нежелательные вещи возвращают. В 2017 году Stitch Fix успешно провел первичное публичное размещение акций по этой модели – вероятно, первым из всех «ориентированных на ИИ» стартапов.
14
См. US Patent Number 8,615,473 B2; Kopalle, P. Why Amazon’s Anticipatory Shipping is Pure Genius // Forbes. 2014. January 29 // https://www.forbes.com/sites/onmarketing/2014/01/28/why-amazons-anticipatoryshipping-is-pure-genius/#2a3284174605.
15
Spinal Tap – вымышленная британская рок-группа из одноименного псевдодокументального фильма 1984 года. Прим. перев.
16
В качестве напоминания о том, как важно правильно интерпретировать прогноз: дельфийский оракул предсказал, что великая империя будет уничтожена, если царь атакует. Воодушевленный Крез напал на Персию, но, к его удивлению, Лидийская империя рухнула. Прогноз в принципе оказался верным, просто неправильно понятым.
17
MastercardRolls Out Artificial Intelligence across Its Global Network // Mastercard press release. 2016. November 30 // https://newsroom.mastercard.com/press-releases/mastercard-rolls-out-artificial-intelligence-across-its-globalnetwork/.
18
Geitgey, A. Machine Learning Is Fun, Part 5: Language Translation with Deep Learning and the Magic of Sequences // Medium. 2016. August 21 // https://medium.com/@ageitgey/machine-learning-is-fun-part-5-language-translationwith-deep-learning-and-the-magic-of-sequences-2ace0acca0aa/.
19
Sun, Y. Why 500 Million People in China Are Talking to This AI // MIT Technology Review. 2017. September 14 // https://www.technologyreview.com/s/608841/why-500-million-people-in-china-re-talking-to-this-ai/.
20
Stolfo, S. J., Fan, D. W., Lee, W., Prodromidis, A. L. Credit Card Fraud Detection Using Meta-Learning: Issues and Initial Results // AAAI Technical Report, WS-97-07, 1997 // http://www.aaai.org/Papers/Workshops/1997/WS-97-07/WS97-07-015.pdf; процент ложноположительных заключений – от 15 до 20.
Другой пример: Aleskerov, E., Freisleben, B., Rao, B. CARDWATCH: A Neural Network Based Database Mining System for Credit Card Fraud Detection // Computational Intelligence for Financial Engineering, 1997 // http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=618940/. Обратите внимание, что сравнение не совсем равноценное, поскольку использованы разные обучающие данные. Тем не менее общая суть понятна.
21
Srivastava, A., Kundu, A., Sural, Sh., Majumdar, A. Credit Card Fraud Detection Using Hidden Markov Model // IEEE Transactions on Dependable and Secure Computing 5. 2008. January – March. № 1. Р. 37–48 // http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=4358713/.
West, J., Bhattacharya, M. Intelligent Financial Fraud Detection: A Comprehensive Review // Computers & Security. 2016. № 57. P. 47–66 // http://www.sciencedirect.com/science/article/pii/S0167404815001261.
22
Karpathy, A. What I Learned from Competing against a ConvNet on ImageNet // http://karpathy.github.io/2014/09/02/what-i-learned-from-competing-against-a-convnet-on-imagenet/; ImageNet, Large Scale Visual Recognition Challenge 2016 // http://image-net.org/challenges/LSVRC/2016/results; LISVRC2014 // http://cs.stanford.edu/people/karpathy/ilsvrc/.
23
Tilley, A. China’s Rise in the Global AI Race Emerges as It Takes Over the Final ImageNet Competition // Forbes. 2017. July, 31 // https://www.forbes.com/sites/aarontilley/2017/07/31/china-ai-imagenet/#dafa182170a8/.
24
Gershgorn, D. The Data That Transformed AI Research – and Possibly the World // Quartz. 2017. July 26 // https://qz.com/1034972/the-data-that-changed-thedirection-of-ai-research-and-possibly-the-world/.
25
Определение из Оксфордского словаря английского языкa (англ. Oxford English Dictionary, OED).
26
McCarthy, J., Minsky, M. L., Rochester, N., Shannon, C. E. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 1955. August 31 // http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html.
27
Рейтинг ААА – высший уровень рейтинга: финансовые обязательства будут выполнены при любых финансовых и экономических обстоятельствах эмитента. Прим. ред.
28
Хокинс Дж. Об интеллекте. М.: Вильямс, 2007.
29
Hawkins, J., Blakeslee, S. On Intelligence. NY: Times Books, 2004. P. 89.
30
McCarthy & others. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence.
31
Hacking, I. The Taming of Chance. – Cambridge: Cambridge University Press, 1990.
32
Varian, H. Beyond Big Data / lecture. National Association of Business Economists, San Francisco. 2013, September 10.
33
Chan, N., Choy, Ch. Screening for Atrial Fibrillation in 13,122 Hong Kong Citizens with Smartphone Electrocardiogram // BMJ 103. 2017. № 1. January // http://heart.bmj.com/content/103/1/24; Buhr, S. Apple’s Watch Can Detect an Abnormal Heart Rhythm with 97 % Accuracy, UCSF Study Says // Techcrunch. 2017. May 11 // https://techcrunch.com/2017/05/11/apples-watchcan-detect-an-abnormal-heart-rhythm-with-97-accuracy-ucsf-study-says; AliveCor & Mayo Clinic Announce Collaboration to Identify Hidden Health Signals in Humans // Cision PR newswire. 2016. October 24 // http://www.prnewswire.com/news-releases/alivecor-and-mayo-clinic-announce-collaboration-toidentify-hidden-health-signals-in-humans-300349847.html.
34
Buhr, S. Apple’s Watch Can Detect an Abnormal Heart Rhythm with 97 % Accuracy, UCSF Study Says; Singh, A. Applying Artifi cial Intelligence in Medicine: Our Early Results // Cardiogram (blog), May 11 // https://blog.cardiogr.am/applying-artificial-intelligence-in-medicine-our-earlyresults-78bfe7605d32/.
35
Мы не знаем, станет ли успешным именно Cardiogram, однако уверены, что смартфоны и другие датчики в перспективе будут использоваться для медицинской диагностики.
36
Шесть тысяч – относительно малая выборка для такого исследования, поэтому мы и назвали его «предварительным». Данных было достаточно для изначальной цели Cardiogram, поскольку предварительное исследование проводилось для доказательства действенности концепции: жизням пациентов ничто не угрожало. Чтобы результаты принесли практическую пользу, данных понадобится гораздо больше.
37
Heiner, D. Competition Authorities and Search // Microsoft Technet (блог). 2010. February 26 // https://blogs.technet.microsoft.com/microsoft_on_the_issues/2010/02/26/competition-authorities-and-search/.
Google утверждала, что Bing – достаточно крупная компания для того, чтобы получить выгоду от масштабирования поиска.
38
Адам Смит (1723–1790) – известный шотландский экономист и философ, основоположник классической школы политэкономии. Его наиболее известные работы: «Теория нравственных чувств» (1759), «Исследование о природе и причинах богатства народов» (1776). Прим. ред.
39
В 60 % случаев вы выбираете Х, и ответ будет верным в 60 % случаев, а в 40 % случаев вы выбираете О и угадываете только в 40 % случаев.
40
Тверский A, Канеман Д. Принятие решений в неопределенности. Правила и предубеждения. М.: Гуманитарный центр, 2018 // https://people.hss.caltech.edu/~camerer/Ec101/JudgementUncertainty.pdf.
41
См. Канеман Д. Думай медленно… решай быстро. М.: АСТ, 2018; Ариели Д. Поведенческая экономика. М.: Манн, Иванов и Фербер, 2012.
42
Льюис М. Moneyball. Как математика изменила самую популярную спортивную лигу в мире. М.: Манн, Иванов и Фербер, 2013.
43
Саберметрика – эмпирический анализ бейсбола, в частности бейсбольной статистики, измеряющей внутриигровые показатели. Прим. ред.
44
Бейсбольные термины. Прим. ред.
45
Конечно, хотя Moneyball и основана на применении традиционной статистики, вполне предсказуемо, что сейчас команды ищут ей замену в методах машинного обучения, позволяющих собрать больше данных. См. Sugimoto, T. AI May Help Japan’s Baseball Champs Rewrite «Moneyball» // Nikkei Asian Review. 2016. May 02 // http://asia.nikkei.com/Business/Companies/AI-may-help-Japan-s-baseball-champs-rewrite-Moneyball.
46
Kleinberg, J., Lakkaraju, H., Leskovec, J., Ludwig, J., Mullainathan, S. Human Decisions and Machine Predictions / working paper 23180. National Bureau of Economic Research, 2017.
47
Исследование также доказало, что алгоритмы, скорее всего, снизят проявления расового неравенства.
48
Hoffman, M., Kahn, L., Li, D. Discretion in Hiring / working paper 21709 // National Bureau of Economic Research. 2015. November.
49
Rumsfeld, D. There_are_known_knowns // US Department of Defense. 2002. February, 12 // https://en.wikipedia.org/wiki/There_are_known_knowns/.
50
Rouet-Leduc, B. & others. Machine Learning Predicts Laboratory Earthquakes. Cornell University, 2017 // http://arxiv.org/abs/1702.05774.
51
Gentner, D., Stevens, A. L. Mental Models. NY: Psychology Press, 1983; Gentner, D. Structure Mapping: A Theoretical Model for Analogy // Cognitive Science. 1983. № 7. P. 15–170.
52
Хотя машины все лучше работают в таких ситуациях, согласно законам вероятности, в маленьких выборках неизбежна некоторая неопределенность. Следовательно, если объем данных ограничен, прогнозы машин в известной мере будут неточными. Машина может дать представление о степени неточности, поэтому суждение о действиях по неточным прогнозам должен делать человек (как обсуждалось в главе 8).
53
Талеб Н. Черный лебедь. М.: Азбука-Аттикус, КоЛибри, 2018.
54
Талеб Н. Черный лебедь. М.: Азбука-Аттикус, КоЛибри, 2018.
55
В цикле Айзека Азимова «Основание» прогноз развился до такой степени, что стало возможным предсказать крах Галактической империи и последовавшие за этим проблемы общества, описанные в книге. Для сюжетной линии была важна невозможность спрогнозировать появление мутанта. Случайные обстоятельства невозможно предвидеть.
56
Waldfogel, J. Copyright Protection, Technological Change, and the Quality of New Products: Evidence from Recorded Music since Napster // The Journal of Law and Economics 55. 2012. № 4. P. 715–740.
57
Rubin, D. Estimating Causal Effects of Treatments in Randomized and Nonrandomized Studies // The Journal of Educational Psychology 66. 1974. № 5. P. 688–701; Neyman, J. Sur les applications de la theorie des probabilites aux experiences agricoles: Essai des principes / master’s thesis, 1923 / excerpts reprinted in English, Dabrowska, D. M. & Speed, T. P. / translators // Statistical Science 5. 1923. P. 463–472.
58
Kasparov, G. Deep Thinking. NY: Perseus Books, 2017. P. 99–100.
59
Google Panda // https://en.wikipedia.org/wiki/Google_Panda. 2017. July 26. Most notably as described in Google webmasters, «What’s It Like to Fight Webspam at Google?» // YouTube. 2014. Febuary 12 // https://www.youtube.com/watch?v=rr-Cye_mFiQ/.
60
Например, сделанные в сентябре 2016 года изменения: Nagesh, A. Now You Can Finally Get Rid of All Those Instagram Spammers and Trolls // Metro. 2016. September 13 // http://metro.co.uk/2016/09/13/now-you-can-finallyget-rid-of-all-those-instagram-spammers-and-trolls-6125645$; Vanian, J. Instagram Turns to Artificial Intelligence to Fight Spam and Offensive Comments // The Fortune. 2017. June 29 // http://fortune.com/2017/06/29/instagram-artificial-intelligence-offensivecomments/.
Сложность использования прогностических машин с учетом наличия стратегически важных действующих лиц – давняя проблема. В 1976 году Роберт Лукас высказался на эту тему в отношении макроэкономической политики инфляции и других экономических индикаторов. Если после перемен в политике людям будет выгодно изменить свое поведение, они так и сделают. Лукас подчеркнул: хотя при росте инфляции уровень занятости сохранялся высоким, если бы центральный банк решил перейти к политике роста инфляции, люди могли бы предвидеть это, и взаимоотношения бы разрушились. Поэтому он утверждает, что вместо основанной на экстраполяции от исторических данных политики следует исходить из понимания соответствующих мотивов поведения. Данная теория называется «Критикой Лукаса». См. Lucas, R. Econometric Policy Evaluation: A Critique // Carnegie-Rochester Conference Series in Public Policy 1. 1976. № 1. P. 19–46 // https://ideas.repec.org/a/eee/crcspp/v1y1976ip19-46.html.
Экономист Тим Харфорд описал это по-другому: Форт-Нокс ни разу не подвергался ограблениям. Сколько нужно вкладывать в его защиту? Поскольку ограблений не было, траты на обеспечение безопасности не снизят их вероятность. Прогностическая машина порекомендовала бы ничего не вкладывать. Зачем тратить деньги, если обеспечение безопасности не влияет на частоту ограблений? Harford, T. The Undercover Economist Strikes Back: How to Run – or Ruin – an Economy. NY: Riverhead Books, 2014.
61
Wang D, & oth. Deep Learning for Identifying Metastatic Breast Cancer // Camelyon Grand Challenge. 2016. July 18 // https://arxiv.org/pdf/1606.05718.pdf.
62
Babbage, Ch. On the Economy of Machinery and Manufactures. London: Charles Knight Pall Mall East, 1832. P. 162.
63
Paravisini, D., Schoar, A. The Incentive Effect of IT: Randomized Evidence from Credit Committees / working paper 19303 // National Bureau of Economic Research. 2013. August.
64
Разделение труда по «первичной обработке» наблюдается во многих случаях использования прогностических машин. Внутренний ИИ Washington Post в 2016 году написал 850 статей, но каждую перед публикацией проверял человек. Аналогичный процесс применяла ROSS Intelligence для анализа тысяч юридических документов, сокращаемых до объема кратких резюме. См. Katz, M. Welcome to the Era of the AI Coworker // Wired. 2017. November 15 // https://www.wired.com/story/welcome-to-the-era-of-the-ai-coworker/.
65
Rosen, J. The Knowledge, London’s Legendary Taxi-Driver Test, Puts Up a Fight in the Age of GPS // New York Times. 2014. November 10 // https://www.nytimes.com/2014/11/10/t-magazine/london-taxi-testknowledge.html?_r=0/.
66
В учебном изложении см. Gans, J. S. Core Economics for Managers. Australia: Cengage, 2005.
67
Средняя отдача от «взять» = (3/4 – не промокнуть с зонтиком) + (1/4 – не промокнуть с зонтиком) = (3/4)×8 + (1/4)×8 = 8,0.
Средняя отдача от «оставить» = (3/4 – не промокнуть с зонтиком) + (1/4 – промокнуть) = (3/4)×10 + (1/4)×0 = 7,5.
68
McAfee, A., Brynjolfsson, E. Machine, Platform, Crowd: Harnessing Our Digital Future. NY: Norton, 2017. P. 72.
69
Пример из: Dubé J.-P., Misra, S. Scalable Price Targeting / working paper. Booth School of Business, University of Chicago, 2017 // http://conference.nber.org/confer//2017/SI2017/PRIT/Dube_Misra.pdf.
70
Wakabayashi, D. Meet the People Who Train the Robots (to Do Their Own Jobs) // New York Times. 2017. April 28 // https://www.nytimes.com/2017/04/28/technology/meet-the-people-who-train-the-robots-to-do-their-own-jobs.html?_r=1/.
71
Там же.
72
Popper, B. The Smart Bots Are Coming and This One Is Brilliant // The Verge. 2016. Aprile 7 // https://www.theverge.com/2016/4/7/11380470/amy-personaldigital-assistant-bot-ai-conversational/.
73
Huet, E. The Humans Hiding Behind the Chatbots // Bloomberg. 2016. April 18 // https://www.bloomberg.com/news/articles/2016-04-18/the-humanshiding-behind-the-chatbots/.
74
Wakabayashi, D. Meet the People Who Train the Robots (to Do Their Own Jobs) // New York Times. 2017. April 28 // https://www.nytimes.com/2017/04/28/technology/meet-the-people-who-train-the-robots-to-do-their-own-jobs.html?_r=1/.
75
Абрахам Вальд (1902–1950) – американский ученый, математик и статистик. Основатель статистического последовательного анализа. Прим. ред.
76
Mangel, M., Samaniego, F. J. Abraham Wald’s Work on Aircraft Survivability // The Journal of the American Statistical Association 79. 1984. № 386. P. 259–267.
77
Bronnenberg, B. J., Rossi, P. E., Vilcassim, N. J. Structural Modeling and Policy Simulation // The Journal of Marketing Research 42. 2005. № 1. P. 22–26 // http://journals.ama.org/doi/abs/10.1509/jmkr.42.1.22.56887/.
78
Dubé, J.-P. & oth. Recent Advances in Structural Econometric Modeling // Marketing Letters 16. 2005. № 3–4. P. 209–224 // https://link.springer.com/article/10.1007%2Fs11002–005–5886–0?LI=true00/.
79
Robot Mailman Rolls on a Tight Schedule // Popular Science. 1976. October // https://books.google.ca/books?id=HwEAAAAAMBAJ&pg=PA76&lpg=PA76&dq=mailmobile+robot&source=bl&ots=SHkkOiDv8K&sig=sYFXzg8Z8_GvOV8Gt30hoGrFhpk&hl=en&sa=X&ei=B3kLVYr7N8meNoLsg_AD&redir_esc=y#v=onepage&q=mailmobile%20robot&f=false.
80
Stigler, G. в изложении Rosenberg, N. (1991).
81
Studies of Decision Making Lead to Prize in Economics // Royal Swedish Academy of Sciences / press release / 1978. October 16 // https://www.nobelprize.org/nobel_prizes/economic-sciences/laureates/1978/press.html. Simon, H. A. M. Turing Award, 1975 // http://amturing.acm.org/award_winners/simon_1031467.cfm. См. Simon, H. Rationality as Process and as Product of Thought // American Economic Review 68. 1978. № 2. P. 1–16; Nevell, A., Simon, H. Computer Science as Empirical Inquiry // Communications of the ACM 19. 1976. № 3. P. 120.
82
Фредерик Йелинек (Frederick Jelinek; 1932–2010) – ученый, теоретик вычислительных систем, один из пионеров обработки естественного языка и автоматического распознавания речи. До 1993 года работал в исследовательском центре IBM имени Томаса Уотсона, где занимался разработкой применения цепей Маркова для распознавания речи. Прим. ред.
83
Цит. по: Moore, R. K. Results from a Survey of Attendees at ASRU1997 & 2003 // INTERSPEECH-2005. Lisbon, 2005, September 4–8.
84
Autopilot worked for me today and saved an accident / Tesla Motors Club / 2016. December 12 // https://teslamotorsclub.com/tmc/threads/autopilot-worked-for-me-today-and-saved-an-accident.82268/.
85
Несколькими неделями спустя видеорегистратор другого водителя заснял действие: Lambert, F. Tesla Autopilot’s New Radar Technology Predicts an Accident Caught on Dashcamera a Second Later // Electrek. 2016. December 27 // https://electrek.co/2016/12/27/tesla-autopilot-radar-technology-predict-accident-dashcam/.
86
NHTSA. U.S. DOT and IIHS Announce Historic Commitment of 20 Automakers to Make Automatic Emergency Braking Standard on New Vehicles. 2016. Marth 17 // https://www.nhtsa.gov/press-releases/us-dot-and-iihs-announcehistoric-commitment-20-automakers-make-automatic-emergency/.
87
Diss, K. Driverless Trucks Move All Iron Ore at Rio Tinto’s Pilbara Mines, in World First // ABC News. 2015. October 7 // http://www.abc.net.au/news/2015-10-18/rio-tinto-opens-worlds-first-automated-mine/6863814/.
88
Simonite, T. Mining 24 Hours a Day with Robots // MIT Technology Review. 2016. December 28 // https://www.technologyreview.com/s/603170/mining-24-hours-a-day-with-robots/.
89
Kelly, S. M. Stunning Underwater Olympics Shots Are Now Taken by Robots // CNN. 2016. August 9 // http://money.cnn.com/2016/08/08/technology/olympics-underwater-robots-getty/.
90
Le, H., Kang, A., Yue, Y. Smooth Imitation Learning for Online Sequence Prediction // International Conference on Machine Learning. 2016. June 9 // https://www.disneyresearch.com/publication/smooth-imitation-learning/.
91
Три закона робототехники – обязательные правила поведения для роботов, фигурирующие в серии фантастических произведений Айзека Азимова.
Первый закон робототехники. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Второй закон робототехники. Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону.
Третий закон робототехники. Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму законам // http://www.prorobot.ru/slovarik/robotics-zakon.php.
92
Директива Министерства обороны 3000.09: Autonomy in Weapon Systems. 2012. November 21 // https://www.hsdl.org/?abstract&did=726163/.
93
Например, есть ряд условий, позволяющих альтернативные варианты, когда время в бою ограничено: Guburd, M. Why Should We Ban Autonomous Weapons? To Survive // IEEE Spectrum. 2016. June 1 // http://spectrum.ieee.org/automaton/robotics/military-robots/why-should-we-ban-autonomousweapons-to-survive/.
94
Solow, R. We’d Better Watch Out // New York Times Book Review. 1987. July 12. P. 36.
95
Хаммер М, Чампи Дж. Реинжиниринг корпорации. Манифест революции в бизнесе. М.: Манн, Иванов и Фербер, 2011.
96
Hammer, M. Reengineering Work: Don’t Automate, Obliterate // Harvard Business Review. 1990. July – August // https://hbr.org/1990/07/reengineering-work-dont-automate-obliterate/.
97
Kleiner, A. Revisiting Reengineering // Strategy + Business. 2000, July // https://www.strategy-business.com/article/19570?gko=e05ea/.
98
Byrnes, N. As Goldman Embraces Automation, Even the Masters of the Universe Are Threatened // MIT Technology Review. 2017. February 7 // https://www.technologyreview.com/s/603431/as-goldman-embraces-automation-eventhe-masters-of-the-universe-are-threatened/.
99
Google Has More Than 1,000 Artificial Intelligence Projects in the Works // The Week. 2016. October 18 // http://theweek.com/speedreads/654463/google-morethan-1000-artificial-intelligence-projects-works/.
100
В менеджменте воронка продаж – это количество клиентов (в нашем случае – абитуриентов), находящихся на определенных этапах взаимоотношений с менеджерами. Она отражает весь цикл продажи, начиная с холодного звонка и заканчивая заключением сделки. С каждым этапом количество потенциальных клиентов уменьшается, поэтому на выходе число заключенных сделок гораздо меньше, чем количество сделанных менеджером звонков. Прим. ред.
101
Forstall, S. How the iPhone Was Born // Wall Street Journal / video. 2017. June 25 // http://www.wsj.com/video/how-the-iphone-was-born-inside-storiesof-missteps-and-triumphs/302CFE23–392D-4020-B1BD-B4B9CEF7D9A8.html.
102
Jobs, St. Memory and Imagination: New Pathways to the Library of Congress. Michael Lawrence Films, 2006 // https://www.youtube.com/watch?v=ob_GX50Za6c/.
103
Levy, St. A Spreadsheet Way of Knowledge. – Wired. 2014. October, 24 // https://backchannel.com/a-spreadsheet-way-of-knowledge-8de60af7146e/.
104
Statt, N. The Next Big Leap in AI Could Come from Warehouse Robots // The Verge. 2017. June 1 // https://www.theverge.com/2017/6/1/15703146/kindredorb-robot-ai-startup-warehouse-automation/.
105
Lusted, L. Logical Analysis in Roentgen Diagnostic // Radiology. 1960. № 74. P. 178–193.
106
Mukherjee, S. A.I. versus M.D. // New Yorker. 2017. April 3 // http://www.newyorker.com/magazine/2017/04/03/ai-versus-md/.
107
Jha S, Topol, E. Adapting to Artificial Intelligence: Radiologists and Pathologists as Information Specialists // Journal of the American Medical Association 316. 2016. № 22. P. 2353–2354.
108
Многие из этих идей связаны с обсуждением Фрэнка Леви в Computers and the Supply of Radiology Services // Journal of the American College of Radiology 5. 2008. № 10. P. 1067–1072.
109
См. Verdict Hospital (http://www.hospitalmanagement.net/features/feature51500/), интервью с президентом American College of Radiology (2009). Научные обоснования см. Berlin, L. The Radiologist: Doctor’s Doctor or Patient’s Doctor // American Journal of Roentgenology 128. 1977. № 4 // http://www.ajronline.org/doi/pdf/10.2214/ajr.128.4.702/.
110
Levy, F. Computers and the Supply of Radiology Services // Journal of the American College of Radiology 5. 2008. № 10. P. 1067–1072.
111
Jha S, Topol, E. Adapting to Artificial Intelligence; Jha, S. Will Computers Replace Radiologists? // Medscape 30. 2016, December // http://www.medscape.com/viewarticle/863127#vp_1/.
112
Frey, C., Osborne, M. The Future of Employment: How Susceptible Are Jobs to Computerisation? // Oxford Martin School, University of Oxford. 2013. September / http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf.
113
Производители грузового транспорта уже встраивают функции транспортировки в новые модели. Volvo внедрила их за несколько тестов, а в новом грузовике Tesla они есть изначально.
114
How Germany’s Otto Uses Artificial Intelligence // The Economist. 2017. April 12 // https://www.economist.com/news/business/21720675-firm-usingalgorithm-designed-cern-laboratory-how-germanys-otto-uses/.
115
Инбредные (чистые) линии – это ограниченная совокупность наследственно однородных организмов, происходящих от одного общего предка. Прим. ред.
116
Griliches, Z. Hybrid Corn and the Economics of Innovation // Science 29. 1960. July. P. 275–280.
117
Ryan, B., Gross, N. The Diffusion of Hybrid Seed Corn // Rural Sociology 8. 1943. P. 15–24; Ryan, B., Gross, N. Acceptance and Diffusion of Hybrid Corn Seed in Two Iowa Communities // Iowa Agriculture Experiment Station Research Bulletin. 1950. January. № 372.
118
Gonsalves, K. Google Has More Than 1,000 Artificial Intelligence Projects in the Works // The Week. 2016. October 18 // http://theweek.com/speedreads/654463/google-more-than-1000-artificial-intelligence-projects-works/.
119
Активные, увлекательные и совершенно бесполезные дебаты о том, кто лучше – саберметрические аналитики или скауты. Как подчеркивает Нейт Сильвер, обычные скауты и из Moneyball выполняют свои важные роли (Сильвер, Н. Сигнал и шум. М.: КоЛибри, 2015. Глава 3).
120
Вы могли бы с уверенностью возразить, что прогностическим машинам для улучшения работы нужно хранить данные за прошедший период? Это неоднозначная тема. Прогностика работает лучше всего, если добавление новых данных не слишком меняет алгоритмы – стабильность возникает в результате правильного применения статистики. Когда вы используете данные обратной связи для улучшения алгоритма, самое главное заключается в том, когда именно прогнозируемое событие разворачивается само по себе. Например, если спрос на йогурт внезапно меняется вместе с демографическими показателями или другими условиями, новые данные помогут улучшить алгоритм. Однако это произойдет только в случае, если в результате перемен «старые данные» теряют значение для прогноза.
121
Ren, D. Tencent Joins the Fray with Baidu in Providing Artificial Intelligence Applications for Self-Driving Cars // South China Morning Post. 2017. August 27 // http://www.scmp.com/business/companies/article/2108489/tencent-forms-alliance-push-ai-applications-self-driving/.
122
Ren, D. Tencent Joins the Fray with Baidu in Providing Artificial Intelligence Applications for Self-Driving Cars.
123
Упомянутая здесь теория адаптации и стимулов см. Tadelis, St. Complexity, Flexibility, and the Make-or-Buy Decision // American Economic Review 92. 2002. May. № 2. P. 433–437.
124
Forbes Januszewski, S., Lederman, M. Adaptation and Vertical Integration in the Airline Industry // American Economic Review 99. 2009. December. № 5. P. 1831–1849.
125
Novak, Sh., Stern, S. How Does Outsourcing Affect Performance Dynamics? Evidence from the Automobile Industry // Management Science 54. 2008. December. № 12. P. 1963–1979.
126
Bessen, J. Learning by Doing. New Haven, CT: Yale University Press, 2016.
127
В 2016 году Wells Fargo получила множество заявлений о мошенничестве менеджеров по работе с клиентами, бравших с клиентов плату при открытии крупных счетов.
128
Bergemann, D., Bonatti, A. Selling Cookies // American Economic Journal / Microeconomics 7. 2015. № 2. P. 259–294.
129
Один из примеров – консалтинговые услуги Mastercard Advisors: обширные данные Mastercard используются для разных прогнозов, от мошенничества до процента нераспределяемой прибыли. См. http://www.mastercardadvisors.com/consulting.html.
130
Smith, W. Stop Calling Google Cardboard’s 360-Degree Videos «VR» // Wired. 2015. November 16 // https://www.wired.com/2015/11/360-video-isnt-virtual-reality/.
131
Hempel, J. Inside Microsoft’s AI Comeback // Wired. 2017. June 21 // https://www.wired.com/story/inside-microsofts-ai-comeback/.
132
What Does It Mean for Google to Become an «AI – First» (Quoting Sundar) Company? // Quora. 2016. April // https://www.quora.com/What-does-it-meanfor-Google-to-become-an-AI-first-company.
133
Christensen, C. M. The Innovator’s Dilemma. Boston: Harvard Business Review Press, 2016.
134
Подробнее об этих дилеммах см. Gans, J. The Disruption Dilemma. Cambridge, MA: MIT Press, 2016.
135
Rosenberg, N. Learning by Using: Inside the Black Box: Technology and Economics. University of Illinois at Champaign-Urbana, 1982. P. 120–140.
136
В видеоиграх, поскольку цель (как можно больше очков) тесно связана с прогнозом (этот ход повысит или понизит счет?), автоматизированный процесс не всегда требует отдельного суждения. Оно заключается лишь в том, что цель состоит в наборе максимального количества очков. Чтобы научить машину играть в такие игры, как Minecraft или Pokemon Go, понадобится больше суждений, поскольку разным людям нравятся разные аспекты игр. Цель неочевидна.
137
Couric, K. Capt. Sully Worried about Airline Industry // CBS News. 2009. February 10 // https://www.cbsnews.com/news/capt-sully-worried-about-airline-industry/.
138
Harris, M. Tesla Drivers Are Paying Big Bucks to Test Flawed Self-Driving Software // Wired. 2017. March 4 // https://backchannel.com/tesla-driversare-guinea-pigs-for-flawed-self-driving-software-c2cc80b483a#.s0u7lsv4f/.
139
Yakovenko, N. GANS Will Change the World // Medium. 2017. January 3 // https://medium.com/@Moscow25/gans-will-change-the-world-7ed6ae8515ca; Anthony, S. Google Teaches «AIs» to Invent Their Own Crypto and Avoid Eavesdropping // Ars Technica. 2016. October 8 / https://arstechnica.com/information-technology/2016/10/google-ai-neural-network-cryptography/.
140
Apple, Privacy, https://www.apple.com/ca/privacy/.
141
Apple, Privacy, https://www.apple.com/ca/privacy/.
142
Ставка возможна благодаря технологическому развитию анализа данных с защитой конфиденциальности, в частности изобретенной Синтией Дворк дифференциальной конфиденциальности: Dwork, C. Differential Privacy: A Survey of Results / Agrawal, M., Duan, D. Z. Theory and Applications of Models of Computation // TAMC2008 / Lecture Notes in Computer Science. Vol. 4978. Berlin: Springer, 2008 // https://doi.org/10.1007/978-3-540-79228-4_1/.
143
Langewiesche, W. The Human Factor // Vanity Fair. 2014. October // http://www.vanityfair.com/news/business/2014/10/air-france-flight-447-crash.
144
Harford, T. How Computers Are Setting Us Up for Disaster // The Guardian. 2016. October // https://www.theguardian.com/technology/2016/oct/11/crash-how-computers-are-setting-us-up-disaster/.
145
Sweeney, L. Discrimination in Online Ad Delivery // Communications of the ACM 56. 2013. № 5. P. 44–54 // https://dataprivacylab.org/projects/onlineads/.
146
Sweeney, L. Discrimination in Online Ad Delivery // Communications of the ACM 56. 2013. № 5. P. 44–54 // https://dataprivacylab.org/projects/onlineads/.
147
Racism Is Poisoning Online Ad Delivery, Says Harvard Professor // MIT Technology Review. 2013. February 4 // https://www.technologyreview.com/s/510646/racism-is-poisoning-online-ad-delivery-says-harvard-professor/.
148
Lambrecht, A., Tucker, C. Algorithmic Bias? An Empirical Study into Apparent Gender-Based Discrimination in the Display of STEM Career Ads // NBER Summer Institute. 2017. July.
149
Cardwell, D., Nelson, L. The Fire Dept. Tests That Were Found to Discriminate // The New York Times. 2009. July 23 // https://cityroom.blogs.nytimes.com/2009/07/23/the-fire-dept-tests-that-were-found-to-discriminate/?mcubz=0&_r=0; US v. City of New York (FDNY) / https://www.justice.gov/archives/crt-fdny/overview/.
150
Voosen, P. How AI Detectives Are Cracking Open the Black Box of Deep Learning // Science. 2017. July 7 // http://www.sciencemag.org/news/2017/07/howai-detectives-are-cracking-open-black-box-deep-learning/.
151
Blake, T., Nosko, C., Tadelis, S. Consumer Heterogeneity and Paid Search Effectiveness: A Large-Scale Field Experiment // Econometrica 83. 2015. P. 155–174.
152
Hosseini, H., Xiao, B., Poovendran, R. Deceiving Google’s Cloud Video Intelligence API Built for Summarizing Videos // CVPR Workshops. 2017. July 31 // https://arxiv.org/pdf/1703.09793.pdf; Artificial Intelligence Used by Google to Scan Videos Could Easily Be Tricked by a Picture of Noodles // Quartz. 2017. April 4 // https://qz.com/948870/the-ai-used-bygoogle-to-scan-videos-could-easily-be-tricked-by-a-picture-of-noodles/.
153
См., к примеру, тысячи упоминаний в: Elton, C. S. The Ecology of Invasions by Animals and Plants. NY: John Wiley, 1958.
154
Основано на дискуссии с деканом Университета Уотерлу Перлом Салливаном (Pearl Sullivan), профессором Александром Вонгом (Alexander Wong) и другими профессорами Уотерлу 20 ноября 2016 года.
155
Существует также четвертое преимущество прогнозирования на устройстве: иногда оно важно для практических целей. Например, Google Glass нужно уметь определять, является движение века морганием (ненамеренным) или подмигиванием (намеренным), поскольку последним контролируется устройство. Это должно происходить быстро, поэтому отправка данных в облако бессмысленна, ведь ждать ответа приходится слишком долго. Прогностическую машину следует разместить в устройстве.
156
Singel, R. Google Catches Bing Copying; Microsoft Says «So What?» // Wired. 2011. February 1 // https://www.wired.com/2011/02/bing-copiesgoogle/.
157
Шейн Гринстейн (Shane Greenstein) объясняет, почему это неприемлемо: Bing Imitates Google: Their Conduct Crosses a Line // Virulent Word of Mouse // https://virulentwordofmouse.wordpress.com/2011/02/02/bing-imitates-google-their-conduct-crosses-a-line/; ему возражает Бен Эдельман (Ben Edelman): In Accusing Microsoft, Google Doth Protest Too Much // hbr.org // https://hbr.org/2011/02/in-accusing-microsoft-google.html.
158
Любопытно, что попытка Google манипулировать машинным обучением Microsoft удалась не с первого раза. Из сотни проведенных экспериментов только 7–9 раз аналогичные результаты появились в поиске Bing. См.: Gans, J. The Consequences of Hiybbprqag’ing // Digitopoly. 2011. February 8 // https://digitopoly.org/2011/02/08/the-consequences-of-hiybbprqaging/.
159
Tramèr, F., Zhang, F., Juels, A., Reiter, M. K., Ristenpart, Th. Stealing Machine Learning Models via Prediction APIs // https://regmedia.co.uk/2016/09/30/sec16_paper_tramer.pdf.
160
Vincent, J. Twitter Taught Microsoft’s AI Chatbot to Be a Racist Asshole in Less Than a Day // The Verge. 2016. March 24 // https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist/.
161
Price, R. Microsoft Is Deleting Its Chatbot’s Incredibly Racist Tweets // Business Insider. 2016. March 24 // http://www.businessinsider.com/microsoftdeletes-racist-genocidal-tweets-from-ai-chatbot-tay-2016–3?r=UK&IR=T/.
162
Vincent, J. Elon Musk Says We Need to Regulate AI Before It Becomes a Danger to Humanity // The Verge. 2017. July 17 // https://www.theverge.com/2017/7/17/15980954/elon-musk-ai-regulation-existential-threat/.
163
Канеман Д. Думай медленно… решай быстро. М.: АСТ, 2018.
164
Weller, Ch. One of the Biggest VCs in Silicon Valley Is Launching an Experiment That Will Give 3000 People Free Money Until 2022 // Business Insider. 2017. September 21 // http://www.businessinsider.com/y-combinator-basicincome-test-2017-9/.
165
Хокинг С. Краткая история времени. М.: АСТ, 2018.
166
Hawking, S. This Is the Most Dangerous Time for Our Plane // The Guardian. 2016. December 1 // https://www.theguardian.com/commentisfree/2016/dec/01/stephen-hawking-dangerous-time-planet-inequality/.
167
The Onrushing Wave // The Economist. 2014. January 18 // https://www.economist.com/news/briefing/21594264-previous-technological-innovation-hasalways-delivered-more-long-run-employment-not-less/.
168
Луддиты – участники первых стихийных выступлений против применения машин в ходе промышленного переворота в Великобритании (конец XVIII – начало XIX века). Название произошло от имени легендарного подмастерья Неда Лудда, который якобы первым разрушил станок в безрассудной ярости. Прим. ред.
169
Подробнее см. Маркофф, Дж. Homo roboticus? Люди и машины в поисках взаимопонимания. M.: Альпина нон-фикшн, 2016; Форд, М. Роботы наступают. Развитие технологий и будущее без работы. M.: Альпина нон-фикшн, 2016; Avent, R. The Wealth of Humans: Work, Power, and Status in the Twenty-First Century. London: St. Martin’s Press, 2016.
170
Furman, J. Is This Time Different? The Opportunities and Challenges of AI // https://obamawhitehouse.archives.gov/sites/default/files/page/files/20160707_cea_ai_furman.pdf.
171
Пикетти Т. Капитал в XXI веке. М.: Ад Маргинем, 2016.
172
Goldin, C., Katz, L. The Race between Education and Technology. Cambridge, MA: Harvard University Press, 2009. P. 90.
173
Шумпетер Йозеф Алоиз (1883–1950) – австрийский и американский экономист, социолог и историк экономической мысли. Прим. ред.
174
Chiou, L., Tucker, C. Search Engines and Data Retention: Implications for Privacy and Antitrust // http://www.nber.org/papers/w23815/.
175
Google AdWords, «Reach more customers with broad match». 2008.
176
О монополизме и других последствиях появления алгоритмов, данных и ИИ см. Ezrachi, A., Stucke, M. Virtual Competition: The Promise and Perils of the Algorithm-Driven Economy. Cambridge, MA: Harvard University Press, 2016. Точка зрения, согласно которой сами алгоритмы будут сконцентрированы в одном, см. Domingos, P. The Master Algorithm. NY: Basic Books, 2015. Как компании заблаговременно вкладываются в данные для получения стратегического преимущества, см. Lohr, S. Dataism. NY: Harper Business, 2015.
177
Vincent, J. Putin Says the Nation That Leads in AI «Will Be the Ruler of the World» // The Verge. 2017. September 4 // https://www.theverge.com/2017/9/4/16251226/russia-ai-putin-rule-the-world/.
178
Furman, J. Is This Time Different? The Opportunities and Challenges of Artificial Intelligence // AI Now, NY University. 2016. July 7 // https://obamawhitehouse.archives.gov/sites/default/files/page/files/20160707_cea_ai_furman.pdf; Executive Office of the President. Artificial Intelligence, Automation, and the Economy. 2016. December // https://obamawhitehouse.archives.gov/sites/whitehouse.gov/files/documents/Artificial-Intelligence-Automation-Economy.pdf; Executive Office of the President. National Science and Technology Council, and Committee on Technology // Preparing for the Future of Artificial Intelligence. 2016. October/; https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf; National Science and Technology Council and Networking and Information Technology Research and Development Subcommittee // The National Artificial Intelligence Research and Development Strategic Plan. 2016. October // https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf.
179
Trefler, D., Goldfarb, A. AI and Trade / Agrawal A, Gans, J., Goldfarb, A. eds. Economics of AI (готовится к публикации).
180
Mozur, P. Beijing Wants AI to Be Made in China by 2030 // New York Times. 2017. July 20 // https://www.nytimes.com/2017/07/20/business/chinaartificial-intelligence.html?_r=0/.
181
Why China’s AI Push Is Worrying // The Economist. 2017. July 27 // https://www.economist.com/news/leaders/21725561-state-controlled-corporations-aredeveloping-powerful-artificial-intelligence-why-chinas-ai-push?frsc=dg%7Ce.
182
Mozur, P. Beijing Wants AI to Be Made in China by 2030 // New York Times. 2017. July 20 // https://www.nytimes.com/2017/07/20/business/chinaartificial-intelligence.html?_r=0/.
183
Mozur, P. Beijing Wants AI to Be Made in China by 2030 // New York Times. 2017. July 20 // https://www.nytimes.com/2017/07/20/business/chinaartificial-intelligence.html?_r=0/.
184
Image 37 of Impact of Basic Research on Technological Innovation and National Prosperity: Hearing before the Subcommittee on Basic Research of the Committee on Science, House of Representatives, One Hundred Sixth Congress, first session. 1999. September 28. P. 27.
185
Why China’s AI Push Is Worrying // The Economist. 2017. July 27 // https://www.economist.com/news/leaders/21725561-state-controlled-corporations-aredeveloping-powerful-artificial-intelligence-why-chinas-ai-push?frsc=dg%7Ce/.
186
Knight, W. China’s AI Awakening // MIT Technology Review. 2017. November.
187
Hempel, J. How Baidu Will Win China’s AI Race – and Maybe the World’s // Wired. 2017. August 9 // https://www.wired.com/story/how-baiduwill-win-chinas-ai-raceand-maybe-the-worlds/.
188
Knight, W. 10 Breakthrough Technologies – 2017: Paying with Your Face // MIT Technology Review. 2017. March – April // https://www.technologyreview.com/s/603494/10-breakthrough-technologies-2017-paying-with-your-face/.
189
Etzioni, O. How to Regulate Artificial Intelligence // New York Times. 2017. September 1 // https://www.nytimes.com/2017/09/01/opinion/artificialintelligence-regulations-rules.html?_r=0/.
190
McDonald, A., Cranor, L. The Cost of Reading Privacy Policies // I/S4. 2008. № 3. P. 543–568 / http://heinonline.org/HOL/Page?handle=hein.journals/isjlpsoc4&div=27&g_sent=1&casa_token=&collection=journals/.
191
Catalini, Ch., Gans, J. Some Simple Economics of the Blockchain // Rotman School of Management. 2017. September 21 // MIT Sloan Research Paper. № 5191–16 / https://ssrn.com/abstract=2874598/.
192
Bostrom, N. Superintelligence. Oxford, UK: Oxford University Press, 2016.
193
Превосходные свежие комментарии: Tegmark, M. Life 3.0: Being Human in the Age of Artifi cial Intelligence. NY: Knopf, 2017.
194
Prepare for the Future of Artificial Intelligence. Executive Office of the President, National Science and Technology Council, Committee on Technology. 2016. October.