Спасибо хотя бы за 1 ответ! Может темы для обсуждения и нет. Если что, сошлюсь на написанное в чате рационалистов (текст сохранён, можете тереть, если обсуждать нечего).
1) "Идеология" рациональности Элиезера это (зачастую) просто два [конкретных] слоя "(статичная) реальность + карта". Но не обязательно строить "идеологию" только для двух слоёв и не обязательно подразумевать их конкретные природу и роль (LW-рациональность это обрезок чего-то более глубокого). Двухслойными (плохо это или хорошо) ещё бывают теории и идеи об ИИ, например идея что интеллект предсказывает будущее (в этой идее есть два отдельных слоя, слой реальности и слой предсказаний). С двумя слоями эта идея работает на полную, а с большим количеством слоёв она менее ясна потому что, например, не описывает происходящего в мышлении (одни мысли предсказывают другие мысли?).
2) Можно представлять аргументы как (условные) "спектры" слоёв. Значимость "слоя" опоннента обычно выкручивается в абсолютный 0, а собственного в бесконечность (и эти слои разрубает подобие Гильотины Юма). В "ЧаВо о консеквенциализме" аргументация о морали в подобном стиле (но ещё больше такого у Элиезера). Много интересных возможностей (касающихся возникновения и выбора морали) упускаются. Однако не обязательно аргументировать в подобном стиле (используя столько подразумеваний о слоях). Вообще не понимаю смысла так аргументировать, кроме желания наверняка не понять других людей (но обидеть их).
3) Любые конкретные слои (типа формул морали) это просто способ выражать идеи, которые можно выражать и в отрыве от (слишком) конкретных слоёв. Избавляясь от слишком конкретных слоёв, можно получать более глубокие идеи. (Выбор более конкретного не всегда разумен.) Звучит банально, но обычно всё [всегда] наоборот (ценится лишь реализация уже известной идеи на каком-то новом слое). В итоге то что должно быть обменом знаниями превращается в конкурентное побоище (если тебе нечем развить метод конкурента, этот метод остаётся лишь отрицать). И от этого пункта можно (здесь косвенно, в тексте связь обоснованна) перейти к следующему:
4) Можно сказать, какие методы не сработают и какие проблемы не решат (или какие методы не имеет смысла доводить до рабочего состояния и какие проблемы решать). Bayesian Theory of Mind не сработает, упрощённый физ.движок не сработает (это лишь конкретный слой описания законов мира), Bayesian Program Learning не сработает, "причинность" и "композиционность" не сработают (причины и следствия и композиция это тоже лишь [слишком] конкретные слои). (https://arxiv.org/abs/1604.00289) Проблему пари Паскаля не решат (https://www.lesswrong.com/posts/a5JAiTdytou3Jg749/pascal-s-mugging-tiny-probabilities-of-vast-utilities), проблемы применения статистики не решат, идеальные формулы оценки и порождения гипотез и учёта чужих предпочтений не напишут (к этому и стремиться смысла нет. это убегание от проблемы интеллекта вместо решения). Разные теории и решения и попытки объяснить что-то это тоже "спектры" (решающие и объясняющие что-то в каких-то вырожденных случаях).
5) В общем, хотел узнать, могу ли подсказать кому-нибудь новые идеи о чём-то. (О рациональности или интеллекте.) Хотел (в тексте) дать метод "очищения" идей от неправильной конкретики.
6) Хочу помогать людям объединять свои теории (http://www.gotai.net/forum/default.aspx?threadid=286903#286903) (не читал, что там ответили пока).
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
timeasmymeasure
no subject
Date: 2019-10-22 05:57 am (UTC)1) "Идеология" рациональности Элиезера это (зачастую) просто два [конкретных] слоя "(статичная) реальность + карта". Но не обязательно строить "идеологию" только для двух слоёв и не обязательно подразумевать их конкретные природу и роль (LW-рациональность это обрезок чего-то более глубокого). Двухслойными (плохо это или хорошо) ещё бывают теории и идеи об ИИ, например идея что интеллект предсказывает будущее (в этой идее есть два отдельных слоя, слой реальности и слой предсказаний). С двумя слоями эта идея работает на полную, а с большим количеством слоёв она менее ясна потому что, например, не описывает происходящего в мышлении (одни мысли предсказывают другие мысли?).
2) Можно представлять аргументы как (условные) "спектры" слоёв. Значимость "слоя" опоннента обычно выкручивается в абсолютный 0, а собственного в бесконечность (и эти слои разрубает подобие Гильотины Юма). В "ЧаВо о консеквенциализме" аргументация о морали в подобном стиле (но ещё больше такого у Элиезера). Много интересных возможностей (касающихся возникновения и выбора морали) упускаются. Однако не обязательно аргументировать в подобном стиле (используя столько подразумеваний о слоях). Вообще не понимаю смысла так аргументировать, кроме желания наверняка не понять других людей (но обидеть их).
3) Любые конкретные слои (типа формул морали) это просто способ выражать идеи, которые можно выражать и в отрыве от (слишком) конкретных слоёв. Избавляясь от слишком конкретных слоёв, можно получать более глубокие идеи. (Выбор более конкретного не всегда разумен.) Звучит банально, но обычно всё [всегда] наоборот (ценится лишь реализация уже известной идеи на каком-то новом слое). В итоге то что должно быть обменом знаниями превращается в конкурентное побоище (если тебе нечем развить метод конкурента, этот метод остаётся лишь отрицать). И от этого пункта можно (здесь косвенно, в тексте связь обоснованна) перейти к следующему:
4) Можно сказать, какие методы не сработают и какие проблемы не решат (или какие методы не имеет смысла доводить до рабочего состояния и какие проблемы решать). Bayesian Theory of Mind не сработает, упрощённый физ.движок не сработает (это лишь конкретный слой описания законов мира), Bayesian Program Learning не сработает, "причинность" и "композиционность" не сработают (причины и следствия и композиция это тоже лишь [слишком] конкретные слои). (https://arxiv.org/abs/1604.00289) Проблему пари Паскаля не решат (https://www.lesswrong.com/posts/a5JAiTdytou3Jg749/pascal-s-mugging-tiny-probabilities-of-vast-utilities), проблемы применения статистики не решат, идеальные формулы оценки и порождения гипотез и учёта чужих предпочтений не напишут (к этому и стремиться смысла нет. это убегание от проблемы интеллекта вместо решения). Разные теории и решения и попытки объяснить что-то это тоже "спектры" (решающие и объясняющие что-то в каких-то вырожденных случаях).
5) В общем, хотел узнать, могу ли подсказать кому-нибудь новые идеи о чём-то. (О рациональности или интеллекте.) Хотел (в тексте) дать метод "очищения" идей от неправильной конкретики.
6) Хочу помогать людям объединять свои теории (http://www.gotai.net/forum/default.aspx?threadid=286903#286903) (не читал, что там ответили пока).