Примечания книги Роботы-убийцы против человечества. Киберапокалипсис сегодня. Автор книги Владимир Овчинский, Елена Ларина

1

Рабочий доклад группы по технологическим угрозам при Массачусет-ском Технологическом институте. Извлечения из доклада.

2

Организация, запрещенная в РФ.

3

Организация, запрещенная в РФ.

4

Peter Singer, Wired for War (Penguin Group (USA) Incorporated, 2009), p. 179 and further, notably p. 203.

5

Министерство обороны США, Unmanned Systems Integrated Road Map FY2011-2036, p. 50, см. сайт http://publicintelligence.net/dod-unmanned-systems-integrated-roadmapfy2011-2036.

6

См. http: www.usaww1.com/World_War_1_Fighter_Planes.php4.

7

Nils Melzer, “Human Rights Implications of the usage of drones and unmanned robots in warfare”, исследование Подкомитета по правам человека Европейского парламента (2013), имеется на сайте http: www.europarl.europa.eu/committees/en/studies/html, p. 5.

8

«Хьюман райтс уотч», Losing Humanity: The Case Against Killer Robots (2012), р. 2, см. сайт http://www.hrw.org/reports/2012/11/19/losing-humanity-0. См. в ответ Michael Schmitt “Autonomous Weapons Systems and International Humanitarian Law: A Reply to the Critics” Harvard International Security Journal (forthcoming 2013), см. сайт http://harvardnsj.org/wp-content/uploads/2013/02/Schmitt-Autonomous-Weapon-Systems-and-IHL-Final.pdf)/ В целях содействия такому запрещению был создан Международный комитет по контролю роботизированного оружия (МККРО). См. http://icrac.net.

9

Ronald Arkin, Governing Lethal Behaviour in Autonomous Robots (CRC Press, 2009); Kenneth Anderson and Matthew Waxman, “Law and ethics for robot soldiers”, Policy Review, No. 176 (2012), см. сайт http://www.hoover.org/publications/policy-review/article/135336.

10

David Collingridge, The Social Control of Technology (Frances Pinter, 1980).

11

А/65/321.

12

Ф/65/321, стр. 13-27.

13

Международный пакт о гражданских и политических правах, статья 6, гарантирующая право на жизнь, и статья 4 (2) о недопустимости отступлений.

14

Arkin (см. сноску 8 выше). Р. 7; Noel Sharkey Automating Warfare: lessons learned from the drones, р. 2, см. сайт http://www.alfredoroma.it/wp-content/uploads/2012/05/Automated-warfare-Noel-Sharkey.pdf; Patrick Lin et al, Autonomous Military Robotics: Risk, Ethics, and Design (San Luis Obispo, California Polytechnic State University, 2008) p. 4, см. сайт http:/ethics.calpoly.edu/ONR_report.pdf.

15

Директива министерства обороны США, “Autonomy in Weapons Systems”, Number 3000.09 of 21 November 2012, Glossary Part II. См. также United Kingdom Ministry of Defence “The UK Approach to Unmanned Aircraft Systems” paras. 202-203, имеется на сайте http://www.gov.uk/government/publications/jdn-2-11-the-uk-approach-to-unmanned-aircraft-systems; см. также, «Хьюман райтс уотч» (см. сноску 7 выше), р. 2.

16

Singer, р. 67.

17

Это также касается «своеобразности», Singer (см. сноску 3 выше), р. 101.

18

См. http://usmilitary.about.com/library/milinfo/navyfacts/blphalanx.htm.

19

См. http://www.dtic.mil/cgi-bin/GeTRDoc?AD=ADA557876.

20

См. http://www.israeli-wеapons.com/weapons/aircraft/uav/harpy/harpy.html.

21

См. http://www.baesystems.com/product/BAES_020273/taranis.

22

См. http://www.as.northropgrumman.com/products/nucasx47b/assets/X-47B_Navy_UCAS_FactsSheet.pdf.

23

См. http://singularityhub.com/2010/07/25/armed-robots-deployed-by-south-korea-in-demilitarized-zone-on-trial-basis.

24

ВВС США, “UAS Flight Plan 200902047” (Washington, D.C., 2009) p. 41, см. сайт http://www.scribd.com/doc/17312980/United-States-Air-Force-Unmanned-Aircraft-Systems-Flight-Plan-20092047-Unclassified.

25

Ronald Arkin «Goverming Lethal Behaviour: Embedding Ethics in a Hybrid Deliberative/Reactive Robot Architecture” Technical Report GIT-GVU-07-11 p. 5, available from hrrp://www.cc.gatech.edu/ai/robot-lab.online-publicationv35.pdf.

26

Anderson and Waxman, pp. 2 and 13 and Singer, р. 379.

27

Gary Marchant et al, «International governance of autonomous military robots”, Columbia Science and Technology Law Review, Volume XII (2011) p. 275.

28

Singer, р. 83.

29

Arkin, XII.

30

А/65/321, пункт 44; John Mueller “The Iraq Syndrome”, Foreign Affairs, Vol. 84, No. 6, p. 44 (November/December 2005).

31

По мнению военных экспертов, чем больше расстояние между применяющим оружие и целью, тем легче, как правило, становится лишить человека жизни. См. David Grossman On Killing: The Psychological Cost of Learning to Kill in War and Society (Back Bay Books, 1996).

32

Armin Krishnan Killer robots: Legality and Ethicality of Autonomous Weapons (Ashgate, 2009) p. 150.

33

Singer, р. 323; Peter Asaro “How Just Could a Robot War Be?” in P. Brey et al (eds.). Current Issues in Computing And Philosophy (2008), p. 7.

34

A/53/202, пункт 98.

35

Asaro, рр. 7-9. Обсуждается в работе Patrick Lin et al “Robots in War: Issues of Risk and Ethics” in R. Capurro & M. Nagenborg (eds.) Ethics and Robotics (2009), p. 57.

36

Anderson and Waxman, р. 12.

37

По мнению некоторых комментаторов, война требует определенной готовности пойти на обоюдный или взаимный риск, связанный с возможностью понести определенные жертвы. См. Kahn “The Paradox of Riskless Warfare” Philosophy and Public Policy Vol. 22 (2002) и “War and Sacrifice in Kosovo” (1999), см. сайт http://www-personal.umich.edu/-elias/Courses/War/kosovo.htm.

38

Lin, р. 50.

39

Marchant, р. 280; Singer, р. 398.

40

Arkin, р. 127.

41

Jonathan Herbach “Into the Caves of Steel: Precaution, Cognition and Robotic Weapons Systems Under the International Law of Armed Conflict” Amsterdam Law Forum Vol. 4 (2012), p. 14/

42

Дополнительный протокол I к Женевским конвенциям, 1977, статьи 51 и 57.

43

Noel Sharkey “Grounds for Discrimination: Autonomous Robot Weapons” RUSI Defence Systems (Oct 2008) pp. 88-89, имеется на сайте http://rusi.org/downloads/assets/23sharkey.pdf.

44

Peter Asaro “On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanisation of Lethal Decision-making”, International Review of the Red Cross (forthcoming 2013) p. 11/

45

«Хьюман райтс уотч», р. 31.

46

Marchant, р. 280.

47

Singer, р. 398.

48

Singer, р. 398.

49

Дополнительный протокол I к Женевским конвенциям, 1977, статья 51 (5) (b).

50

«Хьюман райтс уотч», р. 32.

51

Lin, р. 57.

52

Noel Sharkey, “Automated Killers and the Computing Profession” Computer, Vol. 40 (2007), p. 122.

53

Krishnan, рр. 98-99.

54

Tonya Hagmaier et al, “Air force operations and the law: A guide for air, space and cyber forces” p. 21, см. сайт http://www.afjag.af.mil/shared/media/document/AFD-100510-059.pdf; Andru Wall “Legal and Ethical Lessons of NATOs Kosovo Campaign” p. xxiii, см. сайт http://www.au.af.mil/au/awc/awcgate/navy/kosovo_legal.pdf.

55

Markus Wagner «The Dehumanization of International Humanitarian Law: Legal, Ethical, And Political Implications of Autonomous Weapon Systems” (3012), см. сайт http://robots.law.miami.edu/wp-content/uploads/2012/01/Wagner_Dehumanization_of_international_humanizatian_law.pdf note 96 и сопутствующий текст.

56

Benjamin Kastan «Autonomous Weapons Systems: A Coming Legal Singularity?”University of Illinois Journal of Law, Technology and Policy (forthcoming 2013), p. 18 and further, см. сайт http://papers.ssrn.com/so13/papers.cfm?abstract_id=2037808.

57

«Хьюман райтс уотч», рр. 42-45.

58

Римский статус МУС, статья 28; Heather Roff “Killing in War: Responsibility, Liability and Lethal Autonomous Robots” p. 14, см. сайт http://www.academia.edu/2606840/Killing_in_War_Responsibility_Liability_and_Lethal_Autonomous_ Robots.

59

Дополнительный протокол I к Женевским конвенциям, 1977, статьи 86 (2) и 87.

60

Patrick Jin “Introduction to Robot Ethics” in Patrick Lin et al (eds.) Robot Ethics: The ethical and Social Implications of Robotics (MIT Press, 2012), p. 8.

61

Wendell Wallach “From Robots to Techno Sapiens: Ethics, Law and Public Policy in the Development of Robotics and Neurotechnologies” Law, Innovation and Technology Vol. 3 (2011) p. 194.

62

Gianmarco Verugio and Keith Abney “Roboethics: The Applied Ethics for a New Science” in Lin (see note 59 above), p. 114; Robert Sparrow “Killer Robots” Journal of Applied Philosophy Vol. 24, No. 1 (2007).

63

См. Ronald Arkin “The Robot didn’t do it” Position Paper for the Workshop on Anticipatory Ethics, Responsibility and Artificial Agents p. 1, см. сайт http://www.cc.gatech.edu/ai/robot-lab/publications.html.

64

Marchant, р. 7.

65

Krishman, р. 105.

66

Krishman, р. 113.

67

A/HR/17/28, с. 17 текста на английском языке.

68

Asaro, р. 13.

69

Протокол I к Женевским конвенциям, статья 1 (2). См. также преамбулы к Гаагским конвенциям 1899 и 1907 годов. Гаагская конвенция о законах и обычаях сухопутной войны и приложение: Положение о законах и обычаях сухопутной войны (Гаагская конвенция II).

70

Asaro, р. 13.

71

См. http://www.springer.com/medicine/surgery/journal/11701.

72

Asaro, р. 14.

73

Robert Sparrow “Robotic Ewapons an d the Future of War” in Jessica Wolfendale and Paolo Tripodi (eds.) New Wars and New Soldiers: Military Ethics in the Contemporary World (2011), p. 11.

74

Jutta Weber “Robotic warfare, human rights and the rhetorics of ethical machines”, pp. 8 and 10, см. сайт http://www.gender.uu.se/digitalAssets/44/44133_Weber_Robotic_Warfare.pdf.

75

Singer, р. 261–263.

76

Предусмотрены Гаагской конвенцией 1907 года и Дополнительными протоколами к Женевским конвенциям, принятыми в 1977 году.

77

См. сайт http://www.icrc.org/eng/war-and-law/conduct-hostilities/methods-means-warfare/index.jsp.

78

Договор о запрещении противопехотных мин (1997); и Конвенция по кассетным боеприпасам (2008).

79

Дополнительный протокол I 1977 года к Женевским конвенциям, статья 35 (2); МККК, Обычное международное гуманитарное право, норма 70.

80

Протокол о запрещении применения на войне удушающих, ядовитых или других подобных газов и бактериологических средств, Женева, 17 июня 1925 года.

81

Конвенция о некоторых видах обычных вооружений, Протокол III о зажигательном оружии.

82

Marchant, р. 287, Asaro, р. 10.

83

Marchnt, р. 300, См. также Bonnie Docherty “The Time is Now: A Historical Argument for a Cluster Munitions Convention” 20 Harvard Human Rights Law Journal (2007), р. 53 (общий обзор).

84

Договор о запрещении противопехотных мин (1997), статья 6, и Конвенция о некоторых видах обычных вооружений, Протокол V о взрывоопасных пережитках войны (2003), статья 8. Конвенция по кассетным боеприпасам (2008), статья 5, стала новаторской в том отношении, что ответственность за оказание помощи возлагается на затронутое государство.

85

S/2012/376, пункт 28 (в котором одобряется приверженность Миссии Африканского союза и Сомали на этот счет).

86

Там же, пункт 29 (Генеральный секретарь «приветствовал практику компенсации ущерба»).

87

Marchant, рр. 306-314.

88

Обсуждается в International Review of the Red Cross vol. 88, December 2006.

89

Директива Министерства обороны США.

90

Там же, пункт 4.а.

91

Там же, пункт 4. с и d.

92

Там же, приложение 3.

93

Источник: http://roboting.ru/1725-о-robotah-ubiycah.html.