Anthropic заявил, что Mythos слишком опасен для публичного раскрытия. В результате, небольшие модели также смогли воспроизвести большинство достижений.


Одна из компаний по безопасности под названием Aisle провела эксперимент: использовала небольшие открытые модели для воспроизведения обнаруженных уязвимостей, продемонстрированных в Mythos.
Основная причина, по которой Anthropic не публикует Mythos, — "слишком опасно, хакеры смогут использовать это для катастроф". Но если небольшие модели тоже могут делать подобное, то стратегия "не публиковать" сама по себе становится несостоятельной.
Официальная позиция Aisle: модели — это всего лишь движок, а настоящая сила атаки/защиты зависит от системы, построенной вокруг модели — инструментальных цепочек, базы знаний, среды выполнения.
Посмотреть Оригинал
post-image
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закрепить