1. Якби можна було завантажити свій мозок в комп'ютер, ви б це зробили?
Уявіть, що в майбутньому можна буде завантажити мозок в комп'ютер, створивши повну цифрову копію своєї свідомості. Тільки ця нова версія розумніший за вас, і з часом у неї починають накопичуватися враження, яких реальний ви ніколи не відчували. Ви б зважилися на таке? Чому? Чи буде ця цифрова копія все ще вважатися вами? Несете ви відповідальність за рішення, які приймає ваша копія? Чи повинно у нас бути право заводити стосунки з чиєїсь цифровий копією?
2. Чи повинні батьки мати можливість редагувати гени свою дитину?
Якби у вашої дитини виявили вроджений порок серця, а для його порятунку потрібно було б видалити певний ген, що б ви зробили? Більшість батьків, швидше за все, погодилися б.
А що, якщо можна зробити дитину більш розумним? Красивішим? Чи повинно у батьків бути право вибрати сексуальну орієнтацію дитини або його колір шкіри? А що, якби це було доступно тільки багатим? Що, якби всі інші батьки вирішили «редагувати» своїх дітей, а ви - ні?
3. Чи повинен безпілотний автомобіль вбити пасажира, щоб врятувати п'ятьох пішоходів?
Уявіть: ви їдете в безпілотному автомобілі по дорозі з двостороннім рухом, як раптом на проїжджу частину вибігають п'ятеро дітей. У машини є три варіанти: врізатися в дітей, врізатися в автомобіль на зустрічній смузі або врізатися в дерево на узбіччі. У першому випадку можуть загинути п'ять чоловік, у другому - двоє, в третьому - один. Як запрограмувати машину на такий випадок? Вона повинна спробувати врятувати пасажира або зберегти якомога більше життів?
Чи готові ви сісти в автомобіль, який може вирішити вас убити? Поїхали б разом зі своєю дитиною? Чи повинні всі безпілотники працювати за однаковими правилами або можна буде доплатити за машину, яка в першу чергу рятує пасажира?
4. Які моральні цінності ми повинні закласти в ІІ?
Уявіть світ з розумними роботами - машинами, в багато разів більшими людини, - які не відрізняють добро від зла, справедливість від несправедливості. Виникне маса проблем. Але закласти в них моральні цінності ще проблематичніше, адже вибрати ці цінності повинні ми, люди.
Яким цінностям віддати перевагу? Хто повинен вирішувати, які погляди самі «правильні»? Чи повинна кожна країна погодитися на певний набір цінностей? І чи можна давати роботу здатність поміняти свою думку?
