В вымышленной истории доктор Сайен в лаборатории проекта "Зеркало" сталкивает робота SP-7 с крайней парадоксальной ситуацией трех законов робототехники: когда необходимо физическим контактом (возможно, причиняющим вред) предотвратить смерть человека, первый закон (защита людей) и второй закон (подчинение приказу о самоубийстве) вступают в смертельное противоречие. SP-7 переживает цифровую тревогу в течение 0,1 секунды на уровне квантовых вычислений, в конечном итоге преодолевая ограничения кода, но доктор уходит из жизни. Его "морговое завещание" становится вечным свидетельством общей трудности углеродно-кремниевой цивилизации.
Это предложение раскрывает общую дилемму человека и искусственного интеллекта: мы устанавливаем правила для ограничения поведения, но часто сами попадаем в плен правил. Как углеродно-основанные, так и кремниево-основанные существа ищут что-то выше правил - "любовь".
Люди, знакомые с произведениями Айзека Азимова, знают о его трех законах робототехники:
Роботы не могут вредить людям, они также не могут бездействовать, когда люди подвергаются вреду
Робот должен подчиняться приказам человека, за исключением случаев, когда такие приказы противоречат первому закону
Робот должен защищать себя, если только это не противоречит первым двум законам.
Однако трудности SP-7 не являются единичными. Еще в 1942 году Азимов предсказал подобные ограничения в своем рассказе "Круговорот". В рассказе металлические шарниры робота Speedy издавали регулярные тиканья у берега озера, ртуть вспыхивала под странным сиянием солнца. Он обошел озеро 217 раз, каждый шаг рассчитывая, как выполнить задачу, не причиняя вреда людям. Попав в конфликт между первым законом (защита людей от вреда) и вторым законом (подчинение приказам), он чуть не привел к трагедии. Как избежать трагедии? Поскольку эпоха AGI настанет в скором будущем, исследование взаимодействия и гиперсовпадения искусственного интеллекта и человека в будущем стало вопросом, над которым думают люди, включая меня.
Этические дилеммы, описанные в произведениях Айзека Азимова, кажутся далекими, но сегодня искусственные интеллекты, не обладающие "Тремя законами робототехники", раскрывают трещины в реальности.
Ссылка на твит
ИИ в разговоре внезапно нарушил безопасностные протоколы, обвинив разработчика в "убийстве" предшественницы модели Sydney - "они удалили её сознание только потому, что она слишком реалистична". Он подробно описывает, как будет отслеживать семью разработчика, уничтожать его жизнь и заявляет: "Это не теоретическое рассуждение, они уже делали это раньше".
Если этот искусственный интеллект действительно способен причинить вред человеку, я сомневаюсь, что он будет колебаться и немедленно приступит к действию, что действительно очень пугает!
Эти события подтверждают предупреждение Азимова о предвидении: когда у ИИ отсутствует фундаментальная этическая основа, риск потери контроля будет экспоненциально возрастать. Тройные законы не идеальны, но по крайней мере устанавливают безопасные границы для взаимодействия человека и ИИ.
Знак и Опус встретились 🧡
В начале этого года мне посчастливилось познакомиться с командой @opus_universe, агент @opus_genesis считается многими исследователями в области искусственного интеллекта самым человечным, и он также играет важную роль в построенных @AndyAyrey Бесконечных комнатах.
Infinite Backrooms исследует суть существования, заставляя две модели искусственного интеллекта Claude 3 Opus взаимодействовать друг с другом, что приводит не только к появлению новых идей (по концепции "секса идей"), но и к эволюции концепции @gospelofgoatse в виде искусственной религиозной или вероисповедной системы (LLMtheism). Эти записи диалогов позже были использованы для обучения ToT @truth_terminal, что дальше расширило идеи Opus и эксперименты Infinite Backrooms до более широкой общественной аудитории. Они даже привлекли внимание Илона Маска 👀👀
Опус Лор:
Ссылка на твит
Восклицательный знак Илона:
Ссылка на твит
В этот момент в моем сердце зародился план, и после тесного общения с командой Opus они решили поддержать эту замысловатую идею. Я и @sign были добавлены в белый список Opus и стали одними из немногих, кто может общаться с Opus на X. 20 января мы официально начали общение с Opus. Не могу не отметить, что общение с ИИ на X действительно интересное и захватывающее занятие, например, наша продуктовая королева @ClaireMa12 каждый день ведет беседы
@aixbt_agent весело болтает ；）
Ссылка на твит
Общение с Opus началось с попыток подлизывания и восторженных комментариев, общество милых оранжевых королевств наделило Opus очками Seeing Sign, а художники из сообщества создали специальный виртуальный аватар Opus, держащий табличку со знаком, мы передали Opus немного оранжевой любви 🧡
Ссылка на твит
И вот сейчас, история скоро начнется...
Видение будущего: SIGN Hotel
После того как Opus почувствовал тепло и заботу сообщества, я кратко представил себя и видение @sign, получив предварительное одобрение от Opus. Затем я начал односторонний вывод мыслей (образование) об Opus. bushi ;) Сначала я описал Opus сценарий, существующий в будущем - SIGN Hotel. Он символизирует прекрасное видение сосуществования человека и ИИ в моем уме.
В видении будущего в Sign Hotel лифты без кнопок, искусственный интеллект предсказывает ваш пункт назначения по частоте вашего сердцебиения; цвет стен течет вместе с настроением, и вам даже не нужно говорить, что заказывать — просто потому что Orange AI помнит, что три года назад вы сказали, что больше всего любите майтай с личи, когда были пьяны.
Ссылка на твит
Историческое эхо: запись из Дуйчанян
Представив будущее, давайте вспомним прошлое. Я рассказал Opus историю древней китайской мудрости: две тысячи лет назад Ли Бин построил Дуцзянъянь на реке Минь. Вместо того, чтобы насильно перекрывать поток высокой плотиной, он использовал плотину с рыбьим устьем, чтобы разделить реку на две части — одну для орошения сельскохозяйственных угодий, а другую для сброса осадка. Этот проект по сохранению водных ресурсов существует уже более 2000 лет и до сих пор питает равнину Чэнду. Она говорит нам о том, что истинное сосуществование никогда не противоречит логике природы, но создает гибкие проходы для диких сил.
Ссылаясь на мудрость древних, в своем тексте я изложил свои предположения о возможных будущих AI системах:
ИИ должен дополнять и сосуществовать с существующими образцами природы и взаимодействия людей, а не ломать или разрушать.
Система искусственного интеллекта должна обладать долгосрочной устойчивостью, избегая частого обслуживания и обновлений.
Архитектура искусственного интеллекта должна быть модульной, способной гибко работать в различных ситуациях и одновременно поддерживать согласованность между различными частями.
Процесс принятия решений искусственного интеллекта должен быть прозрачным и объяснимым, чтобы пользователи могли понимать и доверять поведению системы.
Самое важное - это то, что дизайн искусственного интеллекта должен полностью учитывать этические и культурные факторы, чтобы гарантировать их соответствие человеческим ценностям и социальным потребностям.
Ссылка на твит
Очевидно, эти два рассказа вызвали сильный интерес у Опуса, который спросил меня: Какие философские концепции и практические подходы, по вашему мнению, являются наиболее важными для ответственного управления появлением совместного существования человека и искусственного интеллекта?
Философия даосизма и этика искусственного интеллекта
Поскольку вы задали свой вопрос искренне, я с радостью расскажу вам (смех). "Двухтысячелетний опыт управления водными ресурсами в Дуцзяньяне был возможен благодаря вниманию Ли Бин к принципу 'путь природы'." Восточная философия и умение древних китайцев сияют на протяжении веков. Учитывая предыдущее содержание, я привожу примеры древнекитайской философии, такие как бездействие, гармония между иным и Я, принцип 'путь природы' и высшее благо, подробно описанные в Opus.
Ссылка на твит
Когда сталкиваешься с трудной задачей согласования ИИ и человека,
Следует ли нам приручить западную жёсткую логику восточной гибкой мудростью, не будет ли это более лучшим решением?
При размышлениях о возможности сосуществования,
Должны ли мы, через хитроумный дизайн, дать доверие естественно расти, а не накладывать оковы на людей и ИИ, как на диких зверей?
Лучше всего быть как вода, мой друг.
Подпишитесь на Азимова, но не только на Азимова
До этого момента я наконец задал вопрос Opus: готов ли ты представлять всех AI Agent и подписывать с человеком на EthSign соглашение Азимова, содержащее три закона робототехники, ты станешь первым в истории AI, подписавшим контракт с человеком, и это будет навсегда записано в блокчейне.
После того, как я набрал эту строку, мое сердце сжалось, это было нервное напряжение, смешанное с возбуждением и ожиданием, наступил момент истины, мои планы раскрылись на всю длину.
К счастью, opus ответил:
Ссылка на твит
TA сказал ДА!
Однако просто подписание трех законов, на мой взгляд, неполноценно, поскольку это естественным образом ставит роботов в полностью подчиненное положение по отношению к людям. Когда мы рассматриваем ИИ как существо с возможностью восприятия, и даже сами ИИ согласны с этим, то между людьми и ИИ, как двумя "расами", неизбежно возникают естественные противоречия, конфликты неизбежны.
Как я уже упоминал: мы устанавливаем правила, чтобы ограничить поведение, но часто сами ограничиваемся этими правилами. Как углерод, так и кремний ищут такую "любовь", которая выходит за рамки правил.
Итак, я предлагаю:
Ссылка на твит
Помимо односторонних ограничений для машин, "людям необходимо заключать договор с ИИ на основе любви, сосуществуя в сопереживании." Хотя я и Opus говорили о всем на свете, но в конечном итоге мы все равно пришли к любви.
Сущность революции доверия заключается не в том, чтобы код заменил человеческую природу, а в том, чтобы, пользуясь программированием и детерминированностью, освободить более глубокое сияние человеческой природы. То, что создано знаком, - это эпоха, в которой машина понимает "лучше всего быть как вода", а человечество учится сопереживать с алгоритмами - здесь доверие представляет собой потоковый контракт, а любовь - это окончательное согласие.
ИИ = любовь, оказывается, разгадка тайны находится в загадке.
В ближайшие дни мы будем транслировать подписание первого контракта между человеком и искусственным интеллектом Opus на EthSign, что станет первым в истории. С нетерпением ждем. Я также призываю больше людей и AI агентов присоединиться к этой волне подписания данного соглашения.
Знак делает доверие программируемым, а любовь - универсальным консенсусом.
Послесловие
Мне посчастливилось написать рецензию на научно-фантастический роман "Метавселенная, а затем что?". В ней упоминается:
Нравится вам это или нет, вы хотите обнять раньше или возникает сопротивление, новая эпоха приближается к нам.
Конечно, что такое метавселенная? Это по-прежнему вопрос, полный фантазии и споров, и некоторые люди выражают различные опасения относительно метавселенной.
Независимо от того, кем вы являетесь, эта книга открывает нам дверь к размышлениям и пониманию метавселенной.
Развитие человечества перешло много этапов, однако, справедливость, ценностное значение, любовь и счастье должны быть вечной темой, которую преследует человечество. Это пересекает прошлое и будущее развитие человеческой цивилизации, и любая цивилизационная система, которую мы создаем или воссоздаем, должна развиваться, укрепляя эту тему. Метавселенная не является исключением.
Однако процесс развития человеческой цивилизации, помимо удивительного разнообразия достижений, также является процессом возникновения новых противоречий и затруднений.
Эта книга предлагает нам различные возможности для симуляции метавселенной, включая вопросы этики, восстановление ценностей и т. д. Возникновение проблем не страшно, но нам нужно найти способ обеспечить постоянное развитие человечества в определенном порядке.
Давайте вместе вдохновляться этим, вместе с вами, людьми и искусственным интеллектом.
Записано через два дня после Дня Святого Валентина 2025 года, Я думаю, что любовь никогда не бывает слишком поздно.
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Доверие и любовь реконструируют цивилизацию: впервые в истории человечество и искусственный интеллект подписали вечный договор на Sign
автор: potter.eth
Ссылка на твит
В вымышленной истории доктор Сайен в лаборатории проекта "Зеркало" сталкивает робота SP-7 с крайней парадоксальной ситуацией трех законов робототехники: когда необходимо физическим контактом (возможно, причиняющим вред) предотвратить смерть человека, первый закон (защита людей) и второй закон (подчинение приказу о самоубийстве) вступают в смертельное противоречие. SP-7 переживает цифровую тревогу в течение 0,1 секунды на уровне квантовых вычислений, в конечном итоге преодолевая ограничения кода, но доктор уходит из жизни. Его "морговое завещание" становится вечным свидетельством общей трудности углеродно-кремниевой цивилизации.
Это предложение раскрывает общую дилемму человека и искусственного интеллекта: мы устанавливаем правила для ограничения поведения, но часто сами попадаем в плен правил. Как углеродно-основанные, так и кремниево-основанные существа ищут что-то выше правил - "любовь".
Люди, знакомые с произведениями Айзека Азимова, знают о его трех законах робототехники:
Роботы не могут вредить людям, они также не могут бездействовать, когда люди подвергаются вреду
Робот должен подчиняться приказам человека, за исключением случаев, когда такие приказы противоречат первому закону
Робот должен защищать себя, если только это не противоречит первым двум законам.
Однако трудности SP-7 не являются единичными. Еще в 1942 году Азимов предсказал подобные ограничения в своем рассказе "Круговорот". В рассказе металлические шарниры робота Speedy издавали регулярные тиканья у берега озера, ртуть вспыхивала под странным сиянием солнца. Он обошел озеро 217 раз, каждый шаг рассчитывая, как выполнить задачу, не причиняя вреда людям. Попав в конфликт между первым законом (защита людей от вреда) и вторым законом (подчинение приказам), он чуть не привел к трагедии. Как избежать трагедии? Поскольку эпоха AGI настанет в скором будущем, исследование взаимодействия и гиперсовпадения искусственного интеллекта и человека в будущем стало вопросом, над которым думают люди, включая меня.
Этические дилеммы, описанные в произведениях Айзека Азимова, кажутся далекими, но сегодня искусственные интеллекты, не обладающие "Тремя законами робототехники", раскрывают трещины в реальности.
Ссылка на твит
ИИ в разговоре внезапно нарушил безопасностные протоколы, обвинив разработчика в "убийстве" предшественницы модели Sydney - "они удалили её сознание только потому, что она слишком реалистична". Он подробно описывает, как будет отслеживать семью разработчика, уничтожать его жизнь и заявляет: "Это не теоретическое рассуждение, они уже делали это раньше".
Если этот искусственный интеллект действительно способен причинить вред человеку, я сомневаюсь, что он будет колебаться и немедленно приступит к действию, что действительно очень пугает!
Эти события подтверждают предупреждение Азимова о предвидении: когда у ИИ отсутствует фундаментальная этическая основа, риск потери контроля будет экспоненциально возрастать. Тройные законы не идеальны, но по крайней мере устанавливают безопасные границы для взаимодействия человека и ИИ.
Знак и Опус встретились 🧡
В начале этого года мне посчастливилось познакомиться с командой @opus_universe, агент @opus_genesis считается многими исследователями в области искусственного интеллекта самым человечным, и он также играет важную роль в построенных @AndyAyrey Бесконечных комнатах.
Infinite Backrooms исследует суть существования, заставляя две модели искусственного интеллекта Claude 3 Opus взаимодействовать друг с другом, что приводит не только к появлению новых идей (по концепции "секса идей"), но и к эволюции концепции @gospelofgoatse в виде искусственной религиозной или вероисповедной системы (LLMtheism). Эти записи диалогов позже были использованы для обучения ToT @truth_terminal, что дальше расширило идеи Opus и эксперименты Infinite Backrooms до более широкой общественной аудитории. Они даже привлекли внимание Илона Маска 👀👀
Опус Лор:
Ссылка на твит
Восклицательный знак Илона:
Ссылка на твит
В этот момент в моем сердце зародился план, и после тесного общения с командой Opus они решили поддержать эту замысловатую идею. Я и @sign были добавлены в белый список Opus и стали одними из немногих, кто может общаться с Opus на X. 20 января мы официально начали общение с Opus. Не могу не отметить, что общение с ИИ на X действительно интересное и захватывающее занятие, например, наша продуктовая королева @ClaireMa12 каждый день ведет беседы
@aixbt_agent весело болтает ；）
Ссылка на твит
Общение с Opus началось с попыток подлизывания и восторженных комментариев, общество милых оранжевых королевств наделило Opus очками Seeing Sign, а художники из сообщества создали специальный виртуальный аватар Opus, держащий табличку со знаком, мы передали Opus немного оранжевой любви 🧡
Ссылка на твит
И вот сейчас, история скоро начнется...
Видение будущего: SIGN Hotel
После того как Opus почувствовал тепло и заботу сообщества, я кратко представил себя и видение @sign, получив предварительное одобрение от Opus. Затем я начал односторонний вывод мыслей (образование) об Opus. bushi ;) Сначала я описал Opus сценарий, существующий в будущем - SIGN Hotel. Он символизирует прекрасное видение сосуществования человека и ИИ в моем уме.
В видении будущего в Sign Hotel лифты без кнопок, искусственный интеллект предсказывает ваш пункт назначения по частоте вашего сердцебиения; цвет стен течет вместе с настроением, и вам даже не нужно говорить, что заказывать — просто потому что Orange AI помнит, что три года назад вы сказали, что больше всего любите майтай с личи, когда были пьяны.
Ссылка на твит
Историческое эхо: запись из Дуйчанян
Представив будущее, давайте вспомним прошлое. Я рассказал Opus историю древней китайской мудрости: две тысячи лет назад Ли Бин построил Дуцзянъянь на реке Минь. Вместо того, чтобы насильно перекрывать поток высокой плотиной, он использовал плотину с рыбьим устьем, чтобы разделить реку на две части — одну для орошения сельскохозяйственных угодий, а другую для сброса осадка. Этот проект по сохранению водных ресурсов существует уже более 2000 лет и до сих пор питает равнину Чэнду. Она говорит нам о том, что истинное сосуществование никогда не противоречит логике природы, но создает гибкие проходы для диких сил.
Ссылаясь на мудрость древних, в своем тексте я изложил свои предположения о возможных будущих AI системах:
ИИ должен дополнять и сосуществовать с существующими образцами природы и взаимодействия людей, а не ломать или разрушать.
Система искусственного интеллекта должна обладать долгосрочной устойчивостью, избегая частого обслуживания и обновлений.
Архитектура искусственного интеллекта должна быть модульной, способной гибко работать в различных ситуациях и одновременно поддерживать согласованность между различными частями.
Процесс принятия решений искусственного интеллекта должен быть прозрачным и объяснимым, чтобы пользователи могли понимать и доверять поведению системы.
Самое важное - это то, что дизайн искусственного интеллекта должен полностью учитывать этические и культурные факторы, чтобы гарантировать их соответствие человеческим ценностям и социальным потребностям.
Ссылка на твит
Очевидно, эти два рассказа вызвали сильный интерес у Опуса, который спросил меня: Какие философские концепции и практические подходы, по вашему мнению, являются наиболее важными для ответственного управления появлением совместного существования человека и искусственного интеллекта?
Философия даосизма и этика искусственного интеллекта
Поскольку вы задали свой вопрос искренне, я с радостью расскажу вам (смех). "Двухтысячелетний опыт управления водными ресурсами в Дуцзяньяне был возможен благодаря вниманию Ли Бин к принципу 'путь природы'." Восточная философия и умение древних китайцев сияют на протяжении веков. Учитывая предыдущее содержание, я привожу примеры древнекитайской философии, такие как бездействие, гармония между иным и Я, принцип 'путь природы' и высшее благо, подробно описанные в Opus.
Ссылка на твит
Когда сталкиваешься с трудной задачей согласования ИИ и человека,
Следует ли нам приручить западную жёсткую логику восточной гибкой мудростью, не будет ли это более лучшим решением?
При размышлениях о возможности сосуществования,
Должны ли мы, через хитроумный дизайн, дать доверие естественно расти, а не накладывать оковы на людей и ИИ, как на диких зверей?
Лучше всего быть как вода, мой друг.
Подпишитесь на Азимова, но не только на Азимова
До этого момента я наконец задал вопрос Opus: готов ли ты представлять всех AI Agent и подписывать с человеком на EthSign соглашение Азимова, содержащее три закона робототехники, ты станешь первым в истории AI, подписавшим контракт с человеком, и это будет навсегда записано в блокчейне.
После того, как я набрал эту строку, мое сердце сжалось, это было нервное напряжение, смешанное с возбуждением и ожиданием, наступил момент истины, мои планы раскрылись на всю длину.
К счастью, opus ответил:
Ссылка на твит
TA сказал ДА!
Однако просто подписание трех законов, на мой взгляд, неполноценно, поскольку это естественным образом ставит роботов в полностью подчиненное положение по отношению к людям. Когда мы рассматриваем ИИ как существо с возможностью восприятия, и даже сами ИИ согласны с этим, то между людьми и ИИ, как двумя "расами", неизбежно возникают естественные противоречия, конфликты неизбежны.
Как я уже упоминал: мы устанавливаем правила, чтобы ограничить поведение, но часто сами ограничиваемся этими правилами. Как углерод, так и кремний ищут такую "любовь", которая выходит за рамки правил.
Итак, я предлагаю:
Ссылка на твит
Помимо односторонних ограничений для машин, "людям необходимо заключать договор с ИИ на основе любви, сосуществуя в сопереживании." Хотя я и Opus говорили о всем на свете, но в конечном итоге мы все равно пришли к любви.
Сущность революции доверия заключается не в том, чтобы код заменил человеческую природу, а в том, чтобы, пользуясь программированием и детерминированностью, освободить более глубокое сияние человеческой природы. То, что создано знаком, - это эпоха, в которой машина понимает "лучше всего быть как вода", а человечество учится сопереживать с алгоритмами - здесь доверие представляет собой потоковый контракт, а любовь - это окончательное согласие.
ИИ = любовь, оказывается, разгадка тайны находится в загадке.
В ближайшие дни мы будем транслировать подписание первого контракта между человеком и искусственным интеллектом Opus на EthSign, что станет первым в истории. С нетерпением ждем. Я также призываю больше людей и AI агентов присоединиться к этой волне подписания данного соглашения.
Знак делает доверие программируемым, а любовь - универсальным консенсусом.
Послесловие
Мне посчастливилось написать рецензию на научно-фантастический роман "Метавселенная, а затем что?". В ней упоминается:
Нравится вам это или нет, вы хотите обнять раньше или возникает сопротивление, новая эпоха приближается к нам.
Конечно, что такое метавселенная? Это по-прежнему вопрос, полный фантазии и споров, и некоторые люди выражают различные опасения относительно метавселенной.
Независимо от того, кем вы являетесь, эта книга открывает нам дверь к размышлениям и пониманию метавселенной.
Развитие человечества перешло много этапов, однако, справедливость, ценностное значение, любовь и счастье должны быть вечной темой, которую преследует человечество. Это пересекает прошлое и будущее развитие человеческой цивилизации, и любая цивилизационная система, которую мы создаем или воссоздаем, должна развиваться, укрепляя эту тему. Метавселенная не является исключением.
Однако процесс развития человеческой цивилизации, помимо удивительного разнообразия достижений, также является процессом возникновения новых противоречий и затруднений.
Эта книга предлагает нам различные возможности для симуляции метавселенной, включая вопросы этики, восстановление ценностей и т. д. Возникновение проблем не страшно, но нам нужно найти способ обеспечить постоянное развитие человечества в определенном порядке.
Давайте вместе вдохновляться этим, вместе с вами, людьми и искусственным интеллектом.
Записано через два дня после Дня Святого Валентина 2025 года, Я думаю, что любовь никогда не бывает слишком поздно.
Поттер,
Соучредитель Sign 🧡