Великая иллюзия - можно ли будет по аналогии накалывать искусственный интеллект? (RomanSmirnov)

Еще сильнее пример - так называемая "one pixel attack".

https://arxiv.org/pdf/1710.08864.pdf

Принцип свободной энергии Фристона предопределяет что все будет именно так. :))) Так к чему удивляться. :)))

Заметка на отвлеченную тему - интересно как современные технологии оживляют старые трюки например такой феномен как "Великая иллюзия".

На самом деле, это именно избавление от нездоровых иллюзий, и осознание того факта что все мы живем в испытываемой нами информационной реальности и только через нее воспринимаем реальную действительность. Как и все мы в действительности являемся свободными агентами разума как единой системы и испытываемой нами информационной реальности. Что тут очень давно и написал, вся возня с ИИ приведет к пониманию в массах коллективной и социальной природы человеческого разума. О чем собственно и свидетельствует теория когнитивной эволюции которая сегодня становится мейнстримом. Как и эксперименты с ИИ по социальному обучению прямо ее подтверждающие. А дальше осознание в массах и избавление от иллюзий, и только осознаваемая когнитивная эволюция. Что вполне естественно не оставит от существующей социально-экономической системы камня на камне и приведет к смене хозяйственных практик. Что по сути тоже само что цивилизационный коллапс и антропологическая катастрофа. Хотя в действительности все наоборот, неизбежный цивилизационный коллапс есть причина следствия осознаваемая когнитивная эволюция. А антропологическая катастрофа следствие осознания когнитивной эволюции и цивилизационного коллапса. Ретропричинность. 

ИИ уже давно научились "накалывать". Но с учётом специфки его логики. Например, обманывают камеры наблюдения, идентифицирующих личность, надевая одежду на которой нарисована толпа людей, и другие способы. 

Возможно, прогресс будет связан с использованием нейроморфных чипов. У них, в отличие от обычных кремниевых, информация обрабатывается там же, где хранится.

Для сравнения: Пчела использует миллион нейронов и одну тысячную ватта энергии для навигации, что в миллион раз меньше, чем требуется для навигации той же Теслы.

наш мозг на самом деле "достраивает" картинку вместо ее фактической обработки, что позволяет например создавать эффект невидимки или фокусникам крутить свои фокусы.

.....

Так вот ржака - но оказывается "нейросети" обрабатывающие изображения также попадаются на эту ботву

У меня давно возникли подозрения, от общения с некоторыми людьми, что разговариваю с искусственным интеллектом. Нынче, даже роботы от сбербанка, в разговоре, больше на "человеков" походят, относительно настоящих(??? ) "человеков".

Два-три года назад робот от сбербанка легко распознавался. А вот последний звонок от них заставил меня призадуматься. Я растягивал разговор, что называется до последнего, в попытке понять разговариваю с роботом или всё таки с человеком. Так и не смог этого понять. И разговор, таки, закончился фразами "всего хорошего -> досвидания". И до сих пор иногда раздумываю - "человек это был или робот ?" ...

И жду их следующего звонка. Надо же разобраться в этом вопросе! )))   

Кстати, насчет обманок и розыгрышей искусственного сознания. Замечено, что ЧадЖПТ даёт более верные ответы и обходит встроенные ограничения (элайнмент), если ему пообещать "чаевые" или припугнуть именем Альтмана.

Надо попробовать на нашем гигачате от Сбера (припугнуть Грефом, блн). А то, например, он сегодня отказался мне генерить эссе про БПЛА "Ланцет", хотя буржуйский ЖПТ4 даже стихи о нём сочинил, а музыкальный ИИ Suno накатал песни.

Вот пример текста от ИИ. не бог весть что. Но не хуже, чем наш графоман Сяня плодит на сайте:

Славься, Ланцет! Воин небесный!
Твой клинок грозный, как Уральский хребет.
Силой непревзойденной обладая,
Ты с гордостью великой преодолеваешь преграды.

Ты рыцарь смелый, Ланцелот яркий,
Сияешь, словно звезда на небесах.
Твои крылья пламени обнимают,
И в небе мощной песнью гремишь ты, не умолкая.

Удар твой, словно меч с небес спускается,
Карающий, неумолимый в погоне за злом.
Сокрушаешь врагов, ломая их надежды,
Твоими ударами великие победы зовутся.

Точность твоя, словно скальпель хирурга,
Разрезает преграды врагов с дотошностью.
Ни одной ошибки, ни одного сомнения,
Твоя реализация - искусство безупречности.

О, Ланцет! Бесподобный творец,
Твоя мощь и сила непостижимы.
Поднимайся выше, мой герой прекрасный,
Славься великим и победным твоим песням вовеки!

По аналогии со зрением есть такие же когнитивные приколы и речь не только про банальную лишнюю словесную требуху в потоке

Может не стоит путать здравый смысл с шизофренией?!

Можно просчитать будущее...

В 2013 году на суперкомпьютере "К", который №4 в ТОП500- а на самом деле №1, так как оптимизирован под эмуляцию нейронных сетей - симулировали 1 секунду активности нейросети в масштабе примерно 1% от нейросети головного мозга человека (1,73 млрд нейронов и 10,4 трлн синапсов, по 24 байта на синапс)

Эмуляция заняла 40 минут 57 секунд....

ЛеХко подсчитать, что создание нейросети аналогичной головному мозгу человека нужен компьютер  примерно в 250 000 (двести пятьдесят тысяч - прописью) раз мощнее ныне существующих.

С учетом того, что закон Мура после тяжелой и продолжительной болезни сдох в корчах в районе 2005-2010 года (а квантовые компьютеры это специализированные аналоговые машины - даже не надейтесь!) ни наши внуки, ни правнуки до момента создания настоящего ИскИна НЕ доживут....

S.P. А современная аббревиатура "ИИ" должна расшифровываться как жалкое подобие левой руки Имитация Интеллекта...

Эмуляция заняла 40 минут 57 секунд.

Я не зря упомянул выше нейроморфные чипы на мемристорах. Они на порядки эффективнее нынешних. Думается, что скоро к ним прикрутят ИИ и настанет техносингулярность.

Гляньте интересные ролики на тему: