Я и не претендую на знание работы нейросетей. Дискуссия о том, что может ли развитие ИИ вызвать со временем процесс, который резко изменит человеческую цивилизацию. А также о том, что можно ли назвать алгоритмы ИИ, заданные человеком, поведением. И еще о том, что может ли быть нечеловеческое разумным? Машина может быть разумной, но она не живая. Эмоциям ее можно обучить, но и только. Страх возникнет тогда, когда у машины появится осознанное поведение, но не человеческое. У живых людей тоже есть разум, но поведение у некоторых из них случается нечеловеческое. Поэтому разумное и нечеловеческое пугает.

1. Скука - это состояние, присущее только человеку. И если уже ИИ, как вы говорите, даже и научиться скучать, то ему точно будет также присуще и веселье, и другие человеческие эмоции, вплоть до сострадания.   А поведение кошки, бегущей по своим делам , будет также  составлять его связь с окружающим миром. И если эта кошка попадет в беду, то ИИ, как и человек,  будет предпринимать действия по ее спасению. 2 .  Ваше утверждение ,что "поведение нейросетей" зачастую никем заранее  не запрограмированно, предполагает , что нейросеть уже живая. Такого ИИ еще не существует.   Потому, что поведе́ние - это   определённый сложившийся образ взаимодействия с окружающей средой. Поведение определяется способностью изменять свои действия под влиянием внутренних и внешних факторов. Поведение — характерная черта животного типа организации. 3. В  "Солярисе " океан - это огромный ЖИВОЙ  организм , Разум, который  обладал эмпатией, и создавал существ думающих  и страдающих. И никакой  связи ИИ  с Солярисом я не вижу.

Пока развитие ИИ идёт по запрограммированным алгоритмам Человеком. Пока алгоритм не научиться скучать, как ребенок, ничего страшного не произойдет. Когда у разума появляется скука, он начинает воображать, а это только присуще человеку. Одним словом, до технологической сингулярности ещё очень далеко😊

Если вы почитаете в Википедии, что такое спелеология, то в перечислении определения об этой науке также сказано о всестороннем исследовании ПРОИСХОЖДЕНИЯ пространств, пещер. А напечатать статью о том, что запах идет от трупов на дне колодца, по-моему, совсем не отвечает броскому заголовку статьи.

О чем статья? О трупах животных, которые находятся на дне колодца! Это можно было и предположить сразу, когда упомянули о неприятном запахе, исходящем из колодца! А основной вопрос, когда образовался колодец, его происхождение: естественное или рукотворное - ни слова. Предполагаю, что, скорее всего, учёные именно это и хотели выяснить (немцы зря деньги на ветер не бросают). Но публике, как всегда, дали ответ научно объяснимый. В данном случае - запах от разложения животных! Ха-ха! Загадку происхождения колодца так и не разъяснили!