Список форумов sferoidbase.narod.ru sferoidbase.narod.ru
Форум Сфероида
 
 FAQFAQ   ПоискПоиск   ПользователиПользователи   ГруппыГруппы   РeгистрацияРeгистрация 
 ПрофильПрофиль   Войти и проверить личные сообщенияВойти и проверить личные сообщения   ВходВход 

Мышление животных
На страницу Пред.  1, 2, 3, 4, 5, 6  След.
 
Начать новую тему   Эта тема закрыта, вы не можете писать ответы и редактировать сообщения.   Версия для печати    sferoidbase.narod.ru -> Список форумов -> Ксенология
Предыдущая тема :: Следующая тема  
Автор Сообщение
Griffin




Зарегистрирован: 08.03.2006
Сообщения: 17

СообщениеДобавлено: Вторник, 18 Апр 2006 03:57:58    Заголовок сообщения: Ответить с цитатой

Цитата:
Так что, ошибка на втором роботе. Он ведь не успокоится, пока не узнает, что за гадастью он намазал стакан.

А зачем ему волноваться, когда это свойство присуще только человеку? У него есть задача, и её нужно выполнить. В данном случае - натереть ядовитой смесью стенки некоей стеклянной ёмкости (мало ли что людям в голову взбредёт), а операцию эту ему поручили из-за того, что для людей смесь ядовита. Логика есть, законы не нарушены, чего тут ещё надо? А с причиняемым вредом действия робота никак не связаны - он всего лишь инструмент, используемый людьми. Полностью исключить возможность таких ситуаций можно лишь тогда, когда у ИИ не будет программных заглушек в виде пресловутых "законов робототехники", и отношения людей и ИИ будут строиться не по принципу "господин - слуга", а несколько иначе.
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Aalmar




Зарегистрирован: 19.12.2005
Сообщения: 108
Откуда: И Питера.

СообщениеДобавлено: Вторник, 18 Апр 2006 12:16:40    Заголовок сообщения: Ответить с цитатой

А зачем ему волноваться, когда это свойство присуще только человеку?
_____________

Внимательно почитай пост про законы. И особенно внимательно - первый закон. Может, даже трижды.
Вероятность того, что эта гадость для человека ядовита - 2 к 3(если не 5 к 6 :D ). Вероятность того, что именно из этого стакана человек будет пить - один к количеству стаканов. Ну допустим 1 к 10. Итого: 23:30(20:30+3:30), что существенно больше 1:1000. Потому-то и не успокоится. 8)
А если отношения людей и ИИ будут строиться иначе, чем по законам... Хм... Робот сильнее человека. Это конструктивное преимущество. Робот самообучается в человеческом обществе(читай - становится человеком). Робот видет какое г. есть люди. И начинает вести себя подобно им. Если железке вздумается подраться - человек не отделается переломами. Так что, законы необходимы. :P
_________________
Не кидайте пальцы перед драконом - а то он не довольствуется малым, а возьмет все...
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
стегоман




Зарегистрирован: 16.04.2006
Сообщения: 298

СообщениеДобавлено: Вторник, 18 Апр 2006 12:52:30    Заголовок сообщения: Ответить с цитатой

А не факт, что хакер может поменять законы на прямо противоположные? :?
_________________
Извороты одиноких волков,
С каждым метром наживая врагов,
Тем гордясь, что себе он не врет,
Он против шерсти живет.
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Дремлющий




Зарегистрирован: 13.01.2005
Сообщения: 1311
Откуда: г. Ангарск Сибирь Земля-2 (Мир Шумила)

СообщениеДобавлено: Вторник, 18 Апр 2006 18:40:48    Заголовок сообщения: Ответить с цитатой

стегоман писал(а):
А не факт, что хакер может поменять законы на прямо противоположные?

Этот вариант рассматривать нет смысла. Если сможет, значит сможет и все тут.
Но не факт, что робот изменившимся законам подчинится. Особенно если у него развитый интеллект.
_________________
Ищу живого программиста.
Недорого.
Обращаться в личку.
Вернуться к началу
Посмотреть профиль Отправить личное сообщение Отправить e-mail Посетить сайт автора
Типа_Я




Зарегистрирован: 01.12.2004
Сообщения: 2526
Откуда: От туда.

СообщениеДобавлено: Вторник, 18 Апр 2006 20:30:05    Заголовок сообщения: Ответить с цитатой

стегоман писал(а):
А не факт, что хакер может поменять законы на прямо противоположные? :?

Даже сейчас тот же Виндовс пишет не одна сотня программистов , а чтоб его изменить на противоположное :) нужно вложить столько же труда , если не больше , хакеры же создают вирусы способные вызвать сбой у системы да и то не всегда критичный , силёнки не те . Так что нечего говорить о ПО будующего , где защита и сложность ОС возрастёт на порядки .
_________________
На мою свободу слова
Льют козлы свободу лжи.
Гражданин начальник, снова
Сказку злую расскажи.(с)
Вернуться к началу
Посмотреть профиль Отправить личное сообщение Отправить e-mail
Titan




Зарегистрирован: 20.03.2006
Сообщения: 13

СообщениеДобавлено: Вторник, 18 Апр 2006 20:53:53    Заголовок сообщения: Ответить с цитатой

Aalmar писал(а):
Вероятность того, что эта гадость для человека ядовита - 2 к 3(если не 5 к 6 ). Вероятность того, что именно из этого стакана человек будет пить - один к количеству стаканов. Ну допустим 1 к 10. Итого: 23:30(20:30+3:30), что существенно больше 1:1000. Потому-то и не успокоится.


Предьява насчёт релятивистских рассчётов кинута, теперь моя очередь :lol:

:idea: Во-первых, вероятности считаются не так, как ты указал выше. Даже для такого простейшего случая как стакан с ядом. А именно: эти события совместные, но независимые, поэтому вероятности нужно умножать, а не складывать. Т.е.: 23/30=0,7(6) , примерно 0,77-по твоим расчётам. 2/3=0,(6) 1/10=0,1 0,(6)*0.1=0,0(6) , примерно 0,067 - по законам теории вероятностей. Теперь сравни твои 77% и реальные 6,7%. Чувствуешь разницу? Если не веришь, вспомни школьную комбинаторику - примеры с игральными костями. Вероятность выпадения "1" на каждой из них 1/6 (т.к. 6 граней), но события независимые, поэтому чтобы одновременно на них выпали "1", их (всреднем) придётся подкинуть не 3 раза(1/6+1/6=1/3), а 36 раз (1/6*1/6=1/36).

:idea: Во-вторых, если быть точным и начинать поправлять других со скоростями света, то ты везде пишешь 1:1000=0,001, а на самом деле этот предел равен 4:1000=0,004, т.к. заданные показатели точности, укладывающихся в правило 3(6) сигм, определяются с вероятностью 0.996. Т.е. уже не 1 смерть из тысячи, а 4.

:idea: В-третьих, почему робот будет учитывать только эти две вероятности? Почему бы ему ни посчитать вероятность того, что он же может помыть этот стакан до того, как из него выпьют, или ещё что-нибудь в этом духе? А ещё всего две вероятности по 1/10 - и робот будет с большим запасом пренебрегать риском для человека, т.к. будет умножать эти вероятности (0,067*0,1*0,1=? - правильно, = 0,00067<<0,004 - "нет проблем, мистер, эта кружка вам не опасна").

:!: :arrow: В-четвёртых, пиши, пожалуйста, как все здесь - указывай, чья цитата, а не рисуй везде линии, - это не очень удобно остальным. Заранее спасибо.
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Aalmar




Зарегистрирован: 19.12.2005
Сообщения: 108
Откуда: И Питера.

СообщениеДобавлено: Среда, 19 Апр 2006 00:14:03    Заголовок сообщения: Ответить с цитатой

А не факт, что хакер может поменять законы на прямо противоположные?
________________

Хм... Изменить ПЗУ можно только с помощью паяльника. Читай выше, там описано.

________________
Во-первых, вероятности считаются не так, как ты указал выше.
________________

Теорию вероятности в школе не преподают :( А я высшее пока не получил - поступаю. Но ваш пример понял и принял.

прошу пояснить второй пункт - я не понял.

Почему не учитывать третий пункт? А потому, что хозяин не отдал приказа вымыть стакан (робот действует ТОЛЬКО по приказам). И вероятность использования стакана до того, как его вымоют(разобьют, нальют туда что-то еще) - это уже прогнозирование, а с ним у робота туго. Так что третий пункт отходит в сторону.
Если вы сумеете предоставить алгоритм прогноза действий человека - я вам похлопаю в ладоши!!! Человек заведомо - лучший генератор случайных чисел.

Четвертый пункт - привычка еще из ФИДО. :-) может, когда-нибудь переучусь. кроме того, каждый знает что он написал и строчка из его сообщения - адрес лично ему. Но, впрочем... не знаю... может изменю привычку.
_________________
Не кидайте пальцы перед драконом - а то он не довольствуется малым, а возьмет все...
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Titan




Зарегистрирован: 20.03.2006
Сообщения: 13

СообщениеДобавлено: Среда, 19 Апр 2006 18:51:55    Заголовок сообщения: Ответить с цитатой

Aalmar писал(а):
прошу пояснить второй пункт - я не понял.


Вобщем, довольно долго объяснять, но всё-же попробую коротко. Практически все случайные величины (СВ) в нашем мире подчиняются нормальному закону распределения (закону Гаусса). Гауссовское распределение графически - это кривая в виде колокола (грубо говоря). Т.е большинство значений СВ попадает в его центр и чем дальше от этого центра, тем попаданий меньше. А правило 3(6) сигм гласит, что если мы возьмём 3 сигмы влево от центра (строго говоря, от математического ожидания, или проще, среднеарифметического) и 3 сигмы вправо от центра (сигма - среднеквадратическое отклонение, или корень из дисперсии), то все СВ с вероятностью 0,996 попадут в этот промежуток. Далее увеличивать сигмы нет необходимости, т.к. при больших затратах мы получим мизерные приращения надёжности, поэтому все риски (в технике, экономике, да во всём) оцениваются этим правилом. :D Теперь всё понятно? :D Ну тут без литературы не обойтись, так что читай - там всё написано. Разберёшься быстро - всё интуитивно понятно, все примеры из жизни.

Aalmar писал(а):
Четвертый пункт - привычка еще из ФИДО.


Что есть "ФИДО"?

Aalmar писал(а):
Но, впрочем... не знаю... может изменю привычку.


Всё просто: выделяешь нужную цитату, а потом щёлкаешь по кнопке с рядом стрелок.

Aalmar писал(а):
Теорию вероятности в школе не преподают


Хм, странно. Тервера у меня в школе не было, а комбинаторика 100% была.

Aalmar писал(а):
А я высшее пока не получил - поступаю.


Ничего, если техническое - наверстаешь быстро :lol:

А вообще я предлагаю определиться с постановкой вопроса, который обсуждают кто во что горазд.

Пусть каждый задаст конкретные вопросы. У меня их два.

1) :idea: Aalmar'у: Ты серьёзно думаешь, что машина способна просчитать вероятности столь сложных событий? Кибернетика, кстати, отвечает на этот вопрос: не более 2-ух взаимодействующих событий. Жизнь - гораздо более сложная штука. Человек, разум которого мы считаем в настоящее время самым офигительным, сам является существом рандомным. А почему? Да потому что природа такая. Потому что в нашем мире присутствуют волновые функции, неопределённость Гейзенберга, чёрные дыры и бесконечное число взаимодействующих случайных величин. Потому что наука уже ответила на этот вопрос: детерминизм в чистом виде не имеет места во Вселенной. Т.е. ничего ты не сможешь предсказать точно и, тем более, как ты написал ранее, мгновенно. Не веришь мне, почитай серьёзные книги серьёзных учёных на эту тему.

2) :idea: Atrus'у: И всё же - как определить грань между разумным живым и разумным неживым?
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Aalmar




Зарегистрирован: 19.12.2005
Сообщения: 108
Откуда: И Питера.

СообщениеДобавлено: Среда, 19 Апр 2006 22:49:30    Заголовок сообщения: Ответить с цитатой

Что есть "ФИДО"?
___________

Некоммерческая сеть fido. Раньше я там пасся. До выхода винхрена. Который послал далеко и надолго весь фидошный софт. новый искать и качать - дико лениво.

____________
Aalmar'у: Ты серьёзно думаешь, что машина способна просчитать вероятности столь сложных событий?
____________

Да, я всерьез так думаю. просто потому, что эти события - логически взаимосвязанные. А логика у ИИ, как писалось ранее - человеческая. Вот вероятность того, что человек возьмет этот стакан и запустит им в мужа - это уже не просчитать. Это уже за пределами логики.
_________________
Не кидайте пальцы перед драконом - а то он не довольствуется малым, а возьмет все...
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
стегоман




Зарегистрирован: 16.04.2006
Сообщения: 298

СообщениеДобавлено: Четверг, 20 Апр 2006 20:11:18    Заголовок сообщения: Ответить с цитатой

Не ребята, чё-то я вас не пойму-тема какая? Вот-вот, а вы про роботов пишите... :? :idea: Резюме: роботы исчерпаны, надо начинать биологию...
_________________
Извороты одиноких волков,
С каждым метром наживая врагов,
Тем гордясь, что себе он не врет,
Он против шерсти живет.
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Titan




Зарегистрирован: 20.03.2006
Сообщения: 13

СообщениеДобавлено: Суббота, 22 Апр 2006 16:30:37    Заголовок сообщения: Ответить с цитатой

стегоман писал(а):
роботы исчерпаны, надо начинать биологию...


:) Ну, не знаю, не знаю! Вряд-ли найдёшь что-то такое, что не обсудили в Ч.1. А вот роботы далеко не исчерпаны! Тем более, если тебе не хочется это читать, то Atrus со временем разделит темы.

стегоман писал(а):
Да, я всерьез так думаю. просто потому, что эти события - логически взаимосвязанные.


А я тебе говорю ещё раз, что все события логически взаимосвязаны. И поэтому нельзя просчитать одно событие - придётся просчитывать все!
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
стегоман




Зарегистрирован: 16.04.2006
Сообщения: 298

СообщениеДобавлено: Суббота, 22 Апр 2006 18:21:17    Заголовок сообщения: Ответить с цитатой

Titan писал(а):
Ну, не знаю, не знаю! Вряд-ли найдёшь что-то такое, что не обсудили в Ч.1. А вот роботы далеко не исчерпаны!


Ну тогда рубрику переименуйте
_________________
Извороты одиноких волков,
С каждым метром наживая врагов,
Тем гордясь, что себе он не врет,
Он против шерсти живет.
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Titan




Зарегистрирован: 20.03.2006
Сообщения: 13

СообщениеДобавлено: Суббота, 22 Апр 2006 22:10:38    Заголовок сообщения: Ответить с цитатой

стегоман писал(а):
Ну тогда рубрику переименуйте


Я уже предлагал это... Не ко мне вопрос
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Aalmar




Зарегистрирован: 19.12.2005
Сообщения: 108
Откуда: И Питера.

СообщениеДобавлено: Воскресенье, 23 Апр 2006 00:49:29    Заголовок сообщения: Ответить с цитатой

А я тебе говорю ещё раз, что все события логически взаимосвязаны. И поэтому нельзя просчитать одно событие - придётся просчитывать все!
_____________

Ну и ладно. Подумаешь. Прикинем вероятность того или иного события и отсеим по порогу наименее вероятные.
_________________
Не кидайте пальцы перед драконом - а то он не довольствуется малым, а возьмет все...
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Titan




Зарегистрирован: 20.03.2006
Сообщения: 13

СообщениеДобавлено: Среда, 26 Апр 2006 08:10:01    Заголовок сообщения: Ответить с цитатой

Aalmar писал(а):
Ну и ладно. Подумаешь.



Да, подумаешь - фигня какая...
Вернуться к началу
Посмотреть профиль Отправить личное сообщение
Показать сообщения:   
Начать новую тему   Эта тема закрыта, вы не можете писать ответы и редактировать сообщения.   Версия для печати    sferoidbase.narod.ru -> Список форумов -> Ксенология Часовой пояс: GMT + 3
На страницу Пред.  1, 2, 3, 4, 5, 6  След.
Страница 4 из 6

 
Перейти:  
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах


Powered by phpBB © 2001, 2005 phpBB Group