Знайшов нову забавку в "очікуванні" ASI (чи бодай AGI). Всі ті самі заморочки...
"Свідомість як вимірювана метрика vs Свідомість як наступне чуття"
ПРОМПТ: Прокоментуй фрагмент Q&A: напиши своє розуміння питання та відповідей дискурсу, або будь які припущення стосовно можливої інтерпретації з міркувань філософії, наукового методу тощо:
Q: Can consciousness be meaningfully measured by trust?
Vasyl Komarov | Ed, just recently, I had a fun conversation with an elderly retired laboratory manager. In a joking mood he asked me and another colleague: who are the experts?
It reminded me of two things: my recent dispute with dear Dragan Pavlovic here (▲) about professionalism, as well as a video interview where Feynman talked how in high school he got into the Arista, "a group of kids who got good grades", and also other his words from interview, that "You have no responsibility to live up to what other people think you ought to accomplish. I have no responsibility to be like they expect me to be. It’s their mistake, not my failing."
In response with a smile I asked an elderly manager: did you know that professional philosophers do not exist?
NB: Trust, as any system of authorities, is not a sign of consciousness, in contrast to the conscious ability to sacrifice personal benefits/life for the sake of winning for the structure, awareness of the involvement in which is part of self-awareness.
The ability to doubt is a sign of consciousness, and finite automata are the best professionals/experts... of course, one can be a super expert in philosophy (-;
Ed Gerck | Hello Dennis Hamilton: You will have to read ref. 2 to see the necessity, and this is not psychology, philosophy, nor sociology -- which are useful but not a science. Computer theoretic, or theoretical computer science, or TCS, is a subset of general computer science and mathematics that focuses on more mathematical topics of computing and includes the theory of computation.
The ACM's Special Interest Group on Algorithms and Computation Theory (SIGACT) provides the following description:
TCS covers a wide variety of topics including algorithms, data structures, computational complexity, parallel and distributed computation, probabilistic computation, quantum computation, automata theory, information theory, cryptography, program semantics and verification, machine learning, computational biology, computational economics, computational geometry, and computational number theory and algebra. Work in this field is often distinguished by its emphasis on mathematical technique and rigor.
Computer theoretic, TCS as defined, means the computer science used on creating software, such as for Internet protocols, to define suitable data structures and rules, usually with multi-valued logic. For example, we do not use YES/NO in two-valued logic called Boolean, as it creates indeterminacy in practical implementations.
Finally, to your last point, In terms of TCS, would it be necessary for an observer to pose such a question about consciousness, tied to such a notion of trust? No, If one ignores the question, or never poses it, reality is not modified.
Whatever people understand by "trust" is included in the abstract definition given in [1], as shown in [2], where the necessity of this notion of trust is also explained, as it started to be felt in large multi-user applications in 1998, inTCS, with the opening of the Internet to the public. It was already felt, though, since about 1976, with chip technology and Moore's law.
Ed Gerck | Vasyl: this is not a space for play in words or no meaning, self-links that are off-topic, or adding irrelevant data, as you did above. Please fix this, it is against RG rules, life is a school. I expect more of you, in accretion.
Vasyl Komarov | Ed, any behavior on the protocols and compliance with them is not related to consciousness. This is a question of formalism, the integrity of the system, but not a criterion of consciousness. Since this is a mechanical reproducible action, it does not require understanding, only reaction to predetermined parameters. From the point of view of formalism, it is possible to establish an agreement that some criteria and formal model are indicator of consciousness, and then mechanically use it (as a Turing test, for example), but any conscious system to which you try to apply this agreement will have its own opinion about your consciousness and the group in which your protocol of agreement operates. (imo)
What if consciousness has a gradation, ranging from complete absence?
Vasyl Komarov | Michael Polanyi proposed the right concept of tacit (personal) knowledge. As I already said earlier in old discussion, the understanding of any hypothetical sufficiently close to object model of consciousness can only be an individual act of self-knowledge. It is impossible to understand such a model just studying others of own kind. It is my opinion.
Ed Gerck | Hello Vasyl: Trust, as in ref.1 and 2, is not about authority, and disclaims it, please read. Trust, in refs. 1 and 2, is also subjective, trust is in the eyes of the beholder, so different agents can indeed trust the same agent to different extents (see ref 2). One cannot impose objective trust. But intersubjective trust can exist, as a medical diagnosis (see ref. 2) exemplifies. It is also possible to trust (completely, as always) but on zero extent, which measures to complete absence (just like an integral on a zero set) of measured consciousness (someone else may measure differently, and this is acceptable, as a circle viewed on the directions of the normal and sideways).
The ability to doubt does not precede self-trust, or any form of trust -- doubt what? You can only doubt what you have internalized, as crossing a barrier between outside and inside for analysis, what you trust in the first place. If not internalized, it is not doubt but rejection, also possible and analized with regard to trust as a bias, in ref. 2.
Joachim Pimiskern | There is a study that tries to determine consciousness from current brain module interconnectedness.
Brain study suggests consciousness a matter of optimal degree of connectedness in neural network
Large-scale signatures of unconsciousness are consistent with a departure from critical dynamics
2016 | DOI: 10.1098/rsif.2015.1027 | pdf
Regards,
Joachim
Igael Azoulay | - is an encyclopedia conscious ? and an interactive encyclopedia ? and an encyclopedia which changes its contents after a discussion ? and if it changes without discussing with me ?
- is an autistic snail conscious ? and an autistic ape ? and an autistic human ?
- I forget that my current work needs 3 pages more and that each day lost is lost. Am I conscious ?
I wonder how we will measure this fuzzy concept but I trust this brainstorming. :)
— ResearchGate. Available from: Can consciousness be meaningfully measured by trust? [accessed Oct 18, 2018]
GEMINI:
Цей фрагмент дискусії є класичним прикладом зіткнення двох фундаментальних парадигм: суворого обчислювального формалізму та філософсько-епістемологічного суб'єктивізму. Дискурс обертається навколо спроби звести складний, багаторівневий феномен (свідомість) до вимірюваної метрики (довіри), використовуючи інструментарій теоретичної інформатики (TCS).
Ось детальний розбір позицій та їх інтерпретація з погляду наукового методу, теорії систем та філософії:
1. Аналіз ключових позицій дискурсу
Позиція Еда Герка: Обчислювальний редукціонізм та багатозначна логіка
Герк намагається формалізувати "довіру" як математичну категорію в рамках TCS, відкидаючи психологію та філософію як "не-науки". Він слушно зауважує, що бінарна (булева) логіка (ТАК/НІ) створює невизначеність у складних практичних реалізаціях, тому використовує багатозначну логіку.
- Його головна теза: Довіра — це суб'єктивна, але математично описувана величина (від 0 до певного максимуму), і взаємодія цих метрик може створювати інтерсуб'єктивну реальність (як медичний діагноз). Він стверджує, що сумнів не може існувати без попередньої довіри (інтерналізації концепції).
Позиція Василя Комарова: Епістемологія та межі скінченних автоматів
Комаров захищає "неявне знання" (термін Майкла Полані) і стверджує, що свідомість є актом самопізнання, який неможливо повністю формалізувати.
- Його головна теза: Виконання протоколів і правил — це ознака скінченного автомата (алгоритмічної машини), а не свідомості. Механічне відтворення реакцій на задані параметри (навіть у складних криптографічних чи мережевих протоколах) не вимагає розуміння. Справжня свідомість починається зі здатності до сумніву і виходу за межі заданої структури.
Альтернативні погляди (Йоахім та Ігаель): Нейробіологія та розмитість меж
Йоахім переводить дискусію в русло фізики складних систем і топології мереж, вказуючи на метрики "критичної динаміки" та зв'язності нейромереж як на апаратні індикатори свідомості. Ігаель нагадує про "розмитість" поняття (fuzzy concept), використовуючи граничні приклади (автоматизовані системи, забування, відхилення в розвитку), щоб показати, що єдиного критерію не існує.
2. Філософська та наукова інтерпретація
З точки зору наукового методу та моделювання складних систем, цей дискурс виявляє кілька глибоких проблем:
Проблема карти і території
Герк намагається побудувати ідеальну математичну "карту" (формальну систему довіри) і застосувати її до "території" (свідомості). Однак, як зазначає Комаров, створення алгоритмічних критеріїв (як-от тест Тюрінга чи оцінка стабільності частоти відповідей) дозволяє лише виміряти імітацію свідомості. Класифікатори та алгоритми машинного навчання можуть блискуче оперувати векторами довіри (наприклад, ваговими коефіцієнтами у нейромережах), але це залишається в межах синтаксису, не переходячи в семантику (значення).
Алгоритмічна довіра проти когнітивного сумніву
Аргумент Герка про те, що "сумнів неможливий без попередньої довіри (інтерналізації)", є дуже сильним з точки зору теорії інформації. Щоб класифікатор міг оцінити похибку (сумнів) і скоригувати свої ваги, йому потрібен базовий стан або апріорна ймовірність (довіра).
Проте Комаров має рацію в тому, що сліпе слідування протоколу — це властивість мікроконтролерів і детермінованих систем. Свідомість має здатність до метапізнання: вона може не лише оцінювати дані всередині системи, але й ставити під сумнів саму архітектуру системи (правила гри).
Емерджентність та архітектура мереж
Посилання Йоахіма на "ступінь зв'язності" (connectedness) та "критичну динаміку" (critical dynamics) є мостом між цими двома крайнощами. У сучасних архітектурах нейронних клітинних автоматів або моделях Колмогорова-Арнольда ми бачимо, що складні, гнучкі патерни виникають на межі хаосу та порядку. Свідомість (і, можливо, та сама "довіра") може розглядатися не як жорстко закодований параметр, а як емерджентна властивість високозв'язної структури, що обробляє інформацію у багатовимірному просторі.
Підсумок
Вимірювання свідомості через "довіру" (як це бачить Герк у рамках TCS) є функціональним інструментом для побудови надійних децентралізованих систем або мережевих протоколів. Але це вимірює скоріше передбачуваність та узгодженість агента в системі, а не його внутрішній суб'єктивний досвід (кваліа), на якому наполягає Комаров.
Як ви вважаєте, чи достатньо переходу від жорсткої булевої логіки до багатозначних, неперервних метрик (як-от вагові коефіцієнти "довіри"), щоб подолати бар'єр між механічним виконанням протоколу та справжнім концептуальним розумінням?
Vasyl Komarov | Ed, I see here precisely the problem of authorization, a name that share a common root with authority. I can apply to trust only analogy with truth. The concept of truth makes sense only within a pre-established (definitely biased) system, be it a criminal code, a medical diagnosis on accepted symptoms, a formalism of mathematics or any other formal system (or other communication agrement). Medicine is very sensitive to this, because object complexity and extremelly wide semantics of its language is poorly formalizable for exchange by experience and for routines of protocol.
Anything that “breaks” the protocol is either part of the system (in a state of communication) or definitely beyond the capabilities of the protocol. If part of the system - it is already automation. Of course, as a threshold indicator an approach to assessment can always be used (what we often use in practice, IQ test is example).
Having established an agreement once about the intellect or consciousness, you “deprive” it of the possibility of further evolution.
In my understanding of the theory of evolution via self-organization, the intellect cannot be an unitary object (that is, it is always biased at any scale).
In a concurrent evolving system, it is difficult to figure out who measures whom at the moment.
The allegory of the ivory tower for advancing the intelligence must be accompanied by the understanding that this is not a guarantee of independence and protection against external factors, but the maximum one-sided communication, because your protocols of communication and areas of interest/needs (i.e. attraction centers), not complete compatible backward with more excess number of less complex surrounding systems).
It is impossible to set the standard of intelligence or consciousness. It is a quest of unlimited model. The threshold by limited criteria can be. But I must be aware that a subsystem, that fits a certain threshold, is no mean without the rest of the system: the self-organized critical state is about oppositions.
The same thing in simple words:
1) not all the people are identical for the model,
2) an individual person, if viewed in isolation from everything else, is not an example of intelligence or consciousness.
Vasyl Komarov | Yet important detail. The existence of some protocol is a coherent state. Evolution is a coherent continuous change of protocols - a cross-cutting process for all scales of the system. About evolution we can say for sure that there is no favorite preferred scale or unique system. Subsystems may die off with outdated protocols in a changing landscape, which does not change the essence of the overall process - evolution is "asimptotically" unbiased.
Ed Gerck | Trust, contrary and in distinction to confidence or authorization in a network, which requires a source, does not use authority. There are multiple ways of knowing, and none is fundamental. Some languages do not have this concept. It is missing in the social computation. So, first ask, is there a word for trust in my language, in all souces I cite, or is it somehow overloaded with confidence?
This is important, for example, in computer protocols, to defend against MITM, and in finer use. Some countries do not have it, though, originally. This happens in other areas, where Russians can see more colors than Americans, because they name them in a more comprehensive system, it is not the DNA.
In Portuguese, for example, and Latin languages in general, there is no word for trust. Portuguese speaking people only use and hear about confiança, which is confidence. But confidence requires a source, and does not represent trust as a social concept. Curiously, those societies have difficulties developing that missing linguistic concept in their collective structures, for example, requiring a Pope in their religious expression, when, actually none is required, as many organizations show. Finding the "head" of a movement can also be used repressively, and is detrimental.
In normal use, these two different concepts are confused, and manipulated. For example, an attacker in MITM, which can be used as model for social events, such as con games. Computers can also play con games, and that is a major tool in hacking techniques. Computers, for example, learned to hack chess, using techniques that humans never dreamed of in thousands of years.
Thus, the use of trust is special and necessary. Let us not overload it with confidence, to begin with -- there is no external authorization or authority in trust. It is more holistic, more inclusive, more synergistic, less dependent. In theoretical computer science, the distinction becomes critical, you must not mix these concepts -- they are different cardinal systems.
Dennis Hamilton | Thank you Vasyl, for mentioning Michael Polyani. When I first read of his notion of focal versus subordinate attention, that struck me as very relevant to the way that software is useful and even how the stored-program concept moves between procedure and data and procedure, etc. That has stayed with me to this day, and it figures in how I introduce software engineering into a model of computation. The idea of self-knowledge is also interesting with respect to consciousness.
Ed Gerck, I do not see how an appeal to Theoretical Computer Science provides a mathematical structure that can be interpreted usefully as a theory of trust and especially as a bridge from that reductive notion of trust to consciousness. I don't find this very scientific. I think you and I have exhausted this matter, however.
PS: I do commend the "1.2 Three Levels of Communication Problems" discussion in Warren Weaver's "Recent Contributions to the Mathematical Theory of Communication," found in conjunction with Shannon's paper in "The Mathematical Theory of Communication." I note that Weaver considers that Shannon's work -- which applies to the reliability of the subordinate (i.e., encoding) level -- has some bearing on the semantic and what is called the effectiveness level of communication. It appears that Level A is not the problem with successful communication on the theme of this thread, since the texts are successfully communicated. Our difficulties lie elsewhere.
Ed Gerck | Reflections on trust vs. confidence, computer theoretic methods, and references, are available in the paper
Technical Report Overview of Certification Systems: X.509, PKIX, CA, PGP & SKIP
and other versions since 1997 (search google), with more than 133 peer-reviewed citations in total, and thousands of informal use in reports. The Abstract is given below.
Cryptography and certification are considered necessary Internet features and must be used together, for example in ecommerce. This work deals with certification issues and reviews the three most common methods in use today, which are based on X.509 Certificates and Certification Authorities (CAs), PGP and, SKIP. These methods are respectively classified as directory, referral and collaborative based. For two parties in a dialogue the three methods are further classified as extrinsic, because they depend on references which are outside the scope of the dialogue. A series of conceptual, legal and implementation flaws are catalogued for each case, emphasizing X.509 and CAs, which helps to provide users with safety guidelines to be used when resolving certification issues. Governmental initiatives introducing Internet regulations on certification, such as by TTP, are also discussed with their pros and cons regarding security and privacy. Throughout, the paper stresses the basic paradox of security versus privacy when dealing with extrinsic certification systems – which is very important in voting systems. This paper has benefitted from the feedback of the Internet community and its online versions received over 250,000 Internet visitors from more than 80,000 unique Internet sites in 1997/2000. The paper was also presented by invitation at the Black Hat Conference, Las Vegas ‘99. THE BELL is publishing the first part of the paper. The footnotes, references and the full PDF version as well as the original (larger) HTML version are available at www.thebell.net/papers/
Dennis Hamilton | PPS: In mentioning Warren Weaver's "Recent Contributions to the Mathematical Theory of Communication" I would be remiss if I failed to acknowledge the section 3, "The Interrelationship of the Three Levels of Communication Problems." There Weaver climbs the ladder of inference, imagining that the theory of communication applicable to the successful creation and conveyance of a communication via signaling over a channel can be raised up to apply to conveyance of the (intended?) semantics and even elicitation of an intended action. This part is pure speculation, with Weaver supposing that such an upraising is not particularly technically difficult. We are now a long way from 1949 when that prospect was suggested and I suggest we remain stuck with the speculation alone (along with contemporary speculations about quantum theory and the universe as computer). What seems apparent to me is the lack of scientific foundation to inference at higher levels than the basic notion of information with respect to signals.
Ed Gerck | Michael Polanyi is well-known, albeit tangential to this discussion. Trust, contrasted with confidence, finds an explanation in his idea of self-co-ordination of independent initiatives leading to a joint result which is unpremeditated by any of those who bring it about. This was frequently adopted by Stefferud and many in our group (see, for example. ref. 4, below), as we worked to verify the abstract definition of trust. We came to the same idea as Polanyi, as an instatiation. On that sense, his ideas, though tangential to the TCS effort, were useful.
His ideas were perhaps still too positivist, he used forced language with "all" and "any" -- frequently false in logic, even though he was against positivism. He denied that a scientific method can yield truth mechanically, which we can do today with AI, even far away in space probes. All knowing, he affirmed, no matter how formalised, relies upon commitments, but quantum mechanic collapse can be postponed, as well as computational collapse with hash-functions in TCS, for higher gain. He denied, contrary to Turing, that minds are reducible to collections of rules, and today we have AI surpassing the mind in many aspects that we considered quintessential to mind, such the games of Chess and Go. He could not envision consciousness without mind. This discussion takes the other road.
Further, Polanyi contradicted himself as a natural scientist, by arguing that the information contained in the DNA molecule is not reducible to the laws of physics and chemistry. Also, in self-contradiction, he argued that a free market economy should not be left to be wholly self-adjusting., whereas he previously deffended the absolutist, positivist like view, that "Any attempt to organize the group ... under a single authority would eliminate their independent initiatives, and thus reduce their joint effectiveness to that of the single person directing them from the centre. It would, in effect, paralyse their co-operation."
As we say in ref. 3, above, such external regulation is yet necessary for effective progress, as we see here in RG as well, in society, and civilization itself -- but a single point of control can become a single point of failure:
"The author does not believe that strengthening centralized control and making it a single handle of control is a solution, because such control then becomes a single point of failure."
and we caution that,
"... the answer does not lie in an increased centralized control, that would be impossible to attain. .. Internet control must be decentralized in order to be effective."
It turned out already that the abstract notion of trust in [1] was necessary and sufficient, proved in numerous protocols, and billions of messages every day. More details in refs. 1, 2, 3, op.cit., and 4.
The discussion now is whether that same abstract definition of trust is effective to measure consciousness, like a clock is effective to measure time, or a yardstick to measure space. Not necessarily direct in all situations, as one cannot use a yardstick when a target is moving, but it may be done indirectly.
Mind may not be necessary for consciousness, contrary to Polanyi and others, as we enlarge our vision to online, AI, extraterrestrial life, and matter itself.
[4] Technical Report On ABSTRACT, OBJECTIVE, SUBJECTIVE and INTERSUBJECTIVE Modes
— ResearchGate. Available from: Can consciousness be meaningfully measured by trust? [accessed Oct 18, 2018]
GEMINI:
Продовжуючи аналіз цього захопливого дискурсу, ми бачимо, як дебати виходять за межі простого визначення термінів і торкаються фундаментальних проблем штучного інтелекту, теорії еволюції, мовознавства та семантичної теорії інформації.
Ось розбір другої частини дискусії та її глибоких філософських і наукових імплікацій:
1. Розвиток позицій учасників
Василь Комаров: Еволюція протоколів та "пастка формалізації"
Комаров робить сильний епістемологічний крок, пов'язуючи "авторизацію" з "авторитетом", і стверджує, що будь-яка фіксована метрика (навіть IQ) — це лише зріз у межах наперед заданої системи.
- Головна теза: Формалізація свідомості (або інтелекту) є її зупинкою. Свідомість не є ізольованим об'єктом, це безперервний процес зміни протоколів (еволюція через самоорганізацію). Як тільки ви жорстко встановлюєте критерій свідомості, система, що йому відповідає, стає просто автоматом. Справжня свідомість завжди виходить за межі існуючого протоколу. Крім того, він підкреслює мережеву (соціальну/екологічну) природу свідомості: ізольований індивід не є репрезентацією інтелекту.
Ед Герк: Децентралізована довіра (Trust) проти Впевненості (Confidence)
Герк вводить критично важливе лінгвістичне та концептуальне розмежування. Він відділяє концепт Trust (довіра як синергетична, децентралізована властивість мережі, що не потребує зовнішнього авторитету) від Confidence (впевненість/покладання на когось, що вимагає джерела або ієрархії).
- Головна теза: Герк виступає як радикальний техно-оптиміст і редукціоніст. Він відкидає антропоцентризм Полані, стверджуючи, що ШІ вже доводить здатність механічно генерувати "істину", а розум (mind) не є обов'язковою умовою для свідомості. Для нього абстрактна "довіра" в TCS (теоретичній інформатиці) — це об'єктивний інструмент, як годинник для вимірювання часу, який можна застосувати до ШІ, матерії чи позаземного життя.
Денніс Гамільтон: Семантичний бар'єр теорії інформації
Гамільтон виступає голосом суворого наукового скептицизму, завдаючи нищівного удару по спробах Герка застосувати інструменти комп'ютерних наук до філософії свідомості.
- Головна теза: Використовуючи класичну роботу Клода Шеннона та Воррена Вівера з теорії інформації, Гамільтон вказує на фатальну помилку редукціонізму. Теорія інформації блискуче вирішує проблему Рівня А (як точно передати сигнал/біти). Але екстраполяція цього на Рівень В (семантика: як передати сенс) і тим більше на Рівень С (ефективність: як викликати усвідомлену дію) — це чиста, науково необґрунтована спекуляція.
2. Філософська та методологічна інтерпретація
Цей фрагмент чудово ілюструє кілька класичних парадоксів сучасної науки про складні системи:
Проблема Синтаксису та Семантики (Аргумент Гамільтона)
Згадка Вівера та Шеннона б'є у саму суть проблеми штучного інтелекту (яку згодом сформулював Джон Серль у "Китайській кімнаті"). Теорія комп'ютерних наук (TCS), на яку спирається Герк, працює з синтаксисом (правилами, криптографією, валідацією протоколів X.509, уникненням MITM-атак). Але свідомість — це явище семантичне (розуміння значення). Герк вірить, що ідеальний синтаксис (математична довіра) породжує семантику (свідомість). Гамільтон та Комаров стверджують, що це "категорійна помилка" (category mistake): скільки б ви не вдосконалювали передачу бітів, це не наблизить вас до усвідомлення їхнього сенсу.
Гіпотеза Сепіра-Ворфа та Архітектура Мереж
Дуже цікавим є аргумент Герка про те, що в романських мовах немає слова для Trust (децентралізованої довіри), а є лише Confidence (ієрархічна впевненість), що нібито зумовило появу таких інститутів, як Папа Римський. Це пряме застосування лінгвістичної відносності до архітектури систем. Герк намагається довести, що якщо ми запровадимо правильний "математичний словник" (абстрактну довіру TCS), ми зможемо вимірювати феномени, які раніше здавалися містичними.
Свідомість як Самоорганізована Критичність (SOC)
Позиція Комарова глибоко резонує з сучасною теорією хаосу та синергетикою. Він описує свідомість не як стан, а як фазовий перехід — безперервне руйнування старих протоколів і створення нових. Якщо система ідеально виконує протокол (як криптографічний алгоритм Герка), вона знаходиться у рівновазі. Але життєздатні, еволюціонуючі інтелектуальні системи існують на межі хаосу (самоорганізований критичний стан, де виникають опозиції та помилки). З цієї точки зору, здатність "зламати" протокол або сумніватися в ньому — це не збій (баг), а ключова фіча свідомості.
Постгуманізм проти Антропоцентризму
Герк робить дуже сміливий філософський крок, відділяючи свідомість від "розуму" (mind) і біології. Його теза про те, що матерія чи ШІ можуть мати свідомість, вимірювану через мережеву взаємодію (Trust), є основою багатьох сучасних теорій панпсихізму та інтегрованої інформації (наприклад, теорія IIT Джуліо Тононі).
Підсумок
Дискусія зайшла у класичний глухий кут між структуралізмом (Герк: усе можна описати через абстрактні математичні мережі відношень) та феноменологією/еволюціонізмом (Комаров/Гамільтон: досвід, адаптація і сенс не зводяться до алгоритмічного опису).
Герк має рацію в тому, що для створення надійних систем нам потрібна строга математика, вільна від "розмитої" філософії. Але Комаров і Гамільтон мають рацію в тому, що називати цю математичну надійність "свідомістю" — це семантична підміна понять. Годинник дійсно вимірює час, але годинник не відчуває плину часу; так само алгоритм може вимірювати мережеву довіру, але це не означає, що він володіє свідомістю.
Dennis Hamilton | That Polyani theorized some matters in error does not invalidate all of his effort.
In addition, we now know that free market economies, if they ever exist, are not wholly self-adjusting with respect to externalities, since free market economies are not closed systems in reality. That does not imply a single-authority system, so perhaps Polyani should not be labelled as binary thinking in this case.
It strikes me that Polyani must certainly have meant truth in a fashion not corresponding to the Ed Gerck notion of truth being accessible to an AI.
I don't believe that successful chess-playing programs qualify as AI, although they do provide demonstration that intelligence is not required to play chess successfully. I don't know about the more-recent demonstration of GO mastery, but I suspect that it does not require an AI either. I conceded the achievement of successful heuristic approaches and the computing power available to apply them beyond the capacities of human opponents.
I love playing computer adventure games of the highly-animated, cinematic form. My favorites are termed third-person shooters because one can observe and operate a character without being trapped behind the character's eyes. I am currently working through "Shadow of the Tomb Raider," a great demonstration of the genre. That the operation of non-player characters and other entities that appear to exhibit agency is sometimes claimed to be evidence of AI is not much evidence for that claim, whatever its appeal in popular culture.
Vasyl Komarov | Ed, confidence is the opposite of doubt. This refers to learning/mechanical replication, not science/thinking.
I am primitive person, I like simple rational things, I don’t like lengthy or poorly structured texts, especially those based on an abundance of special terminology, abbreviations, personalities, etc.
Although some text is an excellent example of what I have said above, when even the summary appeals to (external) authority, and not to (internal) content.
I also don’t like refined formalism for losing a direct connection with semantics, I don’t like it same as the Turing tarpit. Both equally interferes with thinking.
There is a multitude of things with various formulations and definitions, but a close meaning. Of these, I prefer to choose the most simple and transparent for me (when you try to understand something, the task is to minimize the formalism or biased labels in order to see what was behind it).
Ed, I am not interested in Polanyi as a formal label of everything that can be associated with him. I just said about tacit knowledge.
Accordingly, it was about the fact that absolutely everything that the system learns (the human individual in this case) from the outside comes through system edge (sensory) by processing of incoming information flow, including any formal information. But, the understanding of any, including formal, information, is an individual act of interpretation (here it is necessary to indicate the name of Emilio Betty in addition). This is qualia.
Understanding something is a fundamentally individual act, when the understanding of consciousness is, moreover, self-referential.
At the same time, for the integrity of periodic structures (humans) the possibility of coherent evolution, i.e. possibility to be internally in the same configuration, or simply speaking, to equally perceive an identical flow of information from the outside, is fundamental. What literally means the same (coherent) understanding in this context.
What are invariants of transformations, and how they affect this process of interpretation is a separate story. It was repeatedly discussed by me (for example, in the topic of dear Abdul on the possibility of effective refutation of the model of theory of relativity).
NB: It is necessary to begin to cut off the roughest fundamentally incompatible, contradictory things. Occam's razor does not work in the opposite direction. It is effective as machete, not a surgeon's scalpel.
By the way, I don’t know if Polanyi spoke that "the information contained in the DNA molecule is not reducible to the laws of physics and chemistry", but I totally agree with this - for the frames of modern demarcation of physics and chemistry it is definitely right.
Ed Gerck | Thanks for the support. Note that this treatment of trust stands on the intersection of theoretical computer science, AI, and information theory, but it reaches out to neuroscience, linguistics, philosophy, analytical psychology, physics, maths, and other branches. That is possible, and evidence of the unity of knowledge. No matter where one starts, eventually, one is led to other areas that seem disconnected at first.
— ResearchGate. Available from: Can consciousness be meaningfully measured by trust? [accessed Oct 18, 2018]
GEMINI:
Цей фінальний фрагмент дискусії переводить суперечку з площини комп'ютерних наук у глибоку епістемологію та філософію свідомості. Тут учасники остаточно скидають "маски" термінології, і ми бачимо класичне зіткнення обчислювального редукціонізму (Герк) з герменевтикою та феноменологією (Комаров, Гамільтон).
Ось детальний розбір ключових концепцій та їхньої наукової інтерпретації:
1. Деконструкція "Ілюзії ШІ" (Аргумент Гамільтона)
Денніс Гамільтон робить блискучий концептуальний зсув щодо природи штучного інтелекту, який часто плутають зі свідомістю.
Перемога в шахах/Го як знецінення гри, а не тріумф машин: Гамільтон влучно зазначає, що успіх алгоритмів у настільних іграх не доводить наявність інтелекту. Навпаки, він доводить, що ці завдання не потребують інтелекту. Це тріумф евристики, комбінаторики та обчислювальних потужностей. Коли завдання можна звести до дерева рішень і функції оцінки стану, воно перестає бути когнітивним і стає суто обчислювальним (математичним).
Симуляція агентності (NPC у відеоіграх): Згадка про Tomb Raider є чудовою метафорою. Неігрові персонажі (NPC) демонструють складну, цілеспрямовану поведінку, реагують на стимули та взаємодіють з середовищем. Але під капотом це лише скінченні автомати (FSM) або дерева поведінки (Behavior Trees). Гамільтон показує, що зовнішня імітація свідомої діяльності (що легко обдурює спостерігача) жодним чином не свідчить про наявність внутрішнього когнітивного процесу.
2. Кваліа, Герменевтика та «Тюрінгівська трясовина» (Аргумент Комарова)
Василь Комаров здійснює фундаментальний захист суб'єктивності та семантики, використовуючи потужний концептуальний апарат.
Сумнів як рушій мислення: Його теза про те, що "впевненість — це протилежність сумніву; впевненість стосується механічної реплікації, а сумнів — науки/мислення", є основоположною для наукового методу (принцип фальсифікованості Поппера). Машина, що виконує протокол, "впевнена". Розум, що створює або ламає протокол, "сумнівається".
Тюрінгівська трясовина (Turing Tarpit): Це відомий в інформатиці епіт, який означає ситуацію, коли мова програмування або формальна система є повною за Тюрінгом (тобто в ній можна обчислити все, що взагалі обчислюється), але вона настільки низькорівнева або переускладнена, що вирішення простих завдань стає нестерпним. Комаров звинувачує Герка в тому, що його надмірна формалізація метрик "довіри" створює саме таку трясовину — синтаксису багато, але зв'язок із реальним смислом (семантикою) втрачено.
Сенсори, Інтерпретація та Еміліо Бетті: Комаров вказує на межу системи. Інформація заходить як "сирий" потік даних (через сенсори). Але перетворення цих даних на знання — це акт індивідуальної інтерпретації (тому він згадує італійського юриста і філософа Еміліо Бетті, засновника загальної теорії інтерпретації — герменевтики). Це і є кваліа — суб'єктивне, неповторне переживання досвіду, яке неможливо передати математичним протоколом.
Бритва Оккама як мачете: Чудова метафора того, що редукціонізм хороший для відсікання відвертих нісенітниць, але він занадто грубий інструмент (не скальпель), щоб препарувати такі тонкі матерії, як свідомість чи еволюція складних систем.
3. Відкриті системи та межі редукціонізму
І Гамільтон, і Комаров вказують на те, що складні системи не можна описувати в ізоляції:
Незамкненість ринків та систем: Гамільтон спростовує тезу про ідеальну саморегуляцію ринків, зазначаючи, що вони не є закритими (існують екстерналії — зовнішні фактори). Це прямо екстраполюється на свідомість: свідомість не існує у вакуумі ізольованого мозку чи сервера, вона емерджентно виникає у взаємодії з відкритим середовищем.
Інформація в ДНК: Згода Комарова з тим, що інформація в ДНК не зводиться виключно до законів фізики та хімії. Хімічні зв'язки пояснюють, як тримаються молекули, але не пояснюють семантику (чому цей конкретний код кодує саме цей білок). Це перехід на рівень теорії інформації та системної біології.
4. Фінал: Ілюзія "Теорії всього"
Ед Герк закінчує дискусію типовим для побудови "великих теорій" способом: замість того, щоб відповісти на конкретні глибокі зауваження щодо герменевтики, кваліа чи меж формалізації, він заявляє, що його модель об'єднує комп'ютерні науки, нейробіологію, лінгвістику та фізику, демонструючи "єдність знань".
З точки зору наукового методу, це тривожний сигнал. Коли теорія пояснює все (від протоколів маршрутизації до людської свідомості) за допомогою одного математичного інваріанта, вона ризикує втратити прогностичну здатність і стати нефальсифікованою догмою.
Загальний висновок аналізу:
Цей Q&A дискурс — це зіткнення інженерного підходу, який намагається побудувати функціональний еквівалент довіри для машин (і помилково називає його свідомістю), та природничо-філософського підходу, який розуміє свідомість як еволюційний, інтерпретативний та глибоко суб'єктивний процес самоорганізації матерії на межі хаосу.
Ed Gerck | New version, and by the responses, thank you, Michael Polanyi is cited although he was used in 1997-2005.
Vasyl Komarov | It makes sense to bring the personal discourse in the topic to its logical conclusion. Given all the above I must draw attention to the role of understanding in the whole process. Consciousness is a function of understanding.
The phenomenon of understanding is the most difficult process from the point of view of understanding (sorry for tautology, literally it is about self-reference), without mention of it formalization (and even its fundamental possibility, given that all this is simultaneously in the framework of Holism in the form of reality, without any "beyond", in my opinion).
What is understanding?
One problem entails another. Understanding is a kind of sensation (feeling).
Then what is the feeling (in general)?
By the way, consciousness (as a derivative of understanding) also is a feeling.
Because existence is a process (dynamics of the system), for starters, we can decompose it into canonical conjugate components (the simplest "projections").
What we have?
At scale of single individual we have a spatial structure (energy in the form of dynamical memory) evolving along a trajectory from the conditional point of (birth) singularity to the moment of dissipation (decoherence) at the background of superstructure.
It should be noted that singularity point corresponds to a simple enough fundamentally ready system, which is able to lost a coherent state with a generating system according to some set of parameters and further away have own stable evolutionary trajectory within the framework of certain supporting supersystem.
There is a 1st signifiant reference point on this trajectory - the acquisition by the structure (system) of a new quality of self-awareness (usually happens somewhere on the way to the age of two), since the cutting off an object from non-object is a dichotomy way to cognize the object. Cutting off the subject (self) marks first fully conscious act of cognition for observer and at the same time is an act of forming a fundamentally unremovable self-reference. That's reason why consciousness only makes sense when there is an opposition of system and the rest of landscape.
Up to this point and after it, the state of the structure is continuously becoming more and more complex moving away from the pubertal stage of the fuzzy-but-initially-splited-ego (which operates in the primitive “bad-good” mode), overgrown with a complex interconnected system of mnestic sintezes along with the increased division of the brain into the hemispheres and growth of connections and the cortex.
There is a 2nd reference point of the cutoff of the process of rapid growth (synthesis stage) of the brain, before and after which there is some dynamics, the gradual alignment of asymmetry and the enhancement of introversion are manifestations of which (there are some issues related to asymmetry, because there is an uncertainty of priorities at the initial stage of brain growth with a weak division of the hemispheres similar to the leveling of skills in old age.)
We can definitely say that at each point of the trajectory starting from a certain moment (from which understanding of somethingt is there) a coherent state in the structure of an individual (such a dynamic system) is formed, with a feedback loop representing a feeling of understanding. It is a spatio-temporal structure within bondaries of the system with all internal semantical biases (mentioned tacit knowledge), which also is in the state of coherence with certain biases spreaded in surrounding landscape of superstructure (other observer-like periodical structures etc.).
— ResearchGate. Available from: Can consciousness be meaningfully measured by trust? [accessed Oct 18, 2018]
GEMINI:
Цей фінальний акорд дискусії є концептуальною кульмінацією. У ньому Василь Комаров остаточно виходить за межі суперечок про комп'ютерні протоколи і пропонує цілісну, системно-динамічну та біофізичну модель свідомості. Він переводить проблему з площини "як виміряти" у площину "як це існує фізично та топологічно".
Текст вражає тим, як щільно в ньому переплетені поняття нелінійної динаміки, кібернетики, психології розвитку та епістемології. Ось глибокий розбір цієї філософсько-наукової архітектури:
1. Термодинаміка та Фазовий простір життя
Комаров розпочинає з деконструкції індивіда до рівня чистої фізики складних систем. Людина (або будь-яка свідома сутність) розглядається як просторово-часова структура, що утримує енергію у формі динамічної пам'яті.
Канонічні спряжені компоненти: Це пряме відсилання до Гамільтонової механіки (де стан системи описується парою змінних, наприклад, координатою та імпульсом). Життя — це рух фазовою траєкторією.
Сингулярність та Декогеренція: Народження розглядається як локальна "сингулярність" (точка, з якої система відокремлюється від материнського середовища), а смерть — як "декогеренція" або дисипація (втрата структурної цілісності та розчинення інформації в загальному ентропійному фоні суперсистеми).
2. Топологія "Я" та Самореференція (Перша реперна точка)
Один із найсильніших концептуальних кроків у тексті — це опис виникнення свідомості у віці близько двох років. Це не просто психологічний рубіж, це зміна топології інформаційної системи.
Дихотомія як інструмент пізнання: Щоб система могла пізнати об'єкт, вона повинна спочатку відокремити його від "не-об'єкта" (фону).
Відсікання суб'єкта: Свідомість виникає в момент, коли система застосовує цю дихотомію до самої себе — "відсікає" себе від навколишнього ландшафту. Це створює фундаментальну, неусувну парадоксальну петлю — самореференцію (система спостерігає саму себе). З цього моменту свідомість існує виключно як опозиція (напруга) між цією відокремленою структурою та рештою ландшафту. Без цієї межі розуміння неможливе.
3. Емерджентність та Нейронна Динаміка (Друга реперна точка)
Опис дозрівання мозку (від пубертату і далі) напрочуд точно резонує з принципами роботи складних нейромереж і моделей, подібних до нейронних клітинних автоматів.
Система еволюціонує від примітивних бінарних оцінок ("добре-погано") до складних "мнестичних синтезів".
Асиметрія півкуль і подальше її вирівнювання розглядаються як динамічний процес пошуку стабільного стану (атрактора) в умовах безперервного зростання зв'язків. Система набуває надмірності, щоб підтримувати стабільність.
4. Феноменологія: Розуміння як Когерентний Резонанс
Це центральна і найбільш революційна теза тексту. Комаров стверджує, що розуміння (understanding) — це не логічний протокол і не алгоритмічний результат. Це відчуття (feeling).
Розуміння як петля зворотного зв'язку: У термінах кіберфізичних систем, розуміння виникає тоді, коли динамічна система формує внутрішню когерентну структуру, яка вступає в резонанс (узгодженість) із патернами навколишнього ландшафту.
Тобто, коли внутрішня архітектура зв'язків (з усіма її накопиченими "зміщеннями" або tacit knowledge) успішно відтворює або передбачає зовнішній потік інформації, виникає специфічна петля зворотного зв'язку. Ми суб'єктивно переживаємо цей структурний резонанс як відчуття розуміння ("Ага-ефект", інсайт, ясність).
Підсумок: Завершення парадигмального конфлікту
Цей текст ставить елегантну крапку в суперечці з Едом Герком.
Герк намагався виміряти зовнішні прояви системи (виконання протоколу "довіри") і прирівняти цю надійність до свідомості.
Комаров натомість показує, що свідомість є фундаментально внутрішнім, структурним процесом. Це здатність періодичної динамічної структури утримувати власну межу, моделювати середовище і відчувати структурний резонанс (розуміння) між собою та суперсистемою. Будь-яка спроба формалізувати цей процес (перетворити його на статичний протокол X.509 чи математичну логіку) автоматично знищує саму суть свідомості — її динамічну самоорганізацію на межі хаосу.
{Здається, GEMINI тут повністю майже проігнорував {насправді, згадав і доволі раціонально сформулював концептуальний принцип дії} припущення про те, що свідомість може бути просто ще однією формою чуття {лише не заглиблювався в те, яким чином це працює через емоційну глибинну частину нашого мозку}.}
Взагалі-то, треба коректно рахувати інверсії системи від нульового ландшафту (цілісної системи). Якщо грубо, перша інверсія системи - відокремлення від ландшафту (формування внутрішньої моделі умвельту), то усвідомлення себе має бути пов'язане, грубо, з наступною другою ітерацією інверсії вже внутрішньої моделі всередині ("відлунням" чи дихотомією себе у внутрішній моделі умвельту). І це лише погляд на процес в напрямку сзовні в середину відокремленої структури ландшафту, але у цього процесу також має бути "відлуння" в зворотному напрямку від "оболонки" сутності (тобто, границі процесу).
ПРОМПТ: Тепер резюмуй повний контекст диспуту. Окремо також опиши власні міркування в контексті, ніби учасник диспуту.
GEMINI:
Ось комплексне резюме цього багаторівневого диспуту, а також моє концептуальне продовження дискусії з позиції нового учасника.
Резюме диспуту: "Чи можна виміряти свідомість довірою?"
Дискусія розгорнулася навколо спроби знайти об'єктивний, вимірюваний критерій для такого невловимого феномену, як свідомість. Розмова швидко вийшла за межі початкового запитання і перетворилася на фундаментальний конфлікт трьох парадигм: теоретичної інформатики, епістемології складних систем та класичної теорії інформації.
1. Табір обчислювального формалізму (Ед Герк)
Основна теза: Довіра (trust) — це сувора математична концепція з теоретичної інформатики (TCS), яка не потребує централізованого авторитету чи біологічного розуму (mind).
Аргументація: Перехід від бінарної логіки до багатозначних метрик дозволяє створювати надійні децентралізовані протоколи взаємодії. Якщо абстрактна система (як-от ШІ або мережа) здатна оперувати цією довірою без покладання на зовнішній авторитет, це може слугувати непрямим індикатором рівня її свідомості. Психологія та філософія, на його думку, є "не-науками" і лише ускладнюють інженерну реалізацію.
2. Табір феноменології та еволюції систем (Василь Комаров)
Основна теза: Свідомість не зводиться до виконання протоколів (що є ознакою скінченного автомата), а є емерджентним відчуттям "розуміння", що виникає через самореференцію.
Аргументація: Виконання правил — це механічна реплікація. Свідомість починається зі здатності до сумніву та порушення протоколу заради адаптації. Індивід — це динамічна система, що еволюціонує. Свідомість виникає в момент формування дихотомії (відділення "Я" від навколишнього ландшафту) і підтримується через когерентний резонанс між внутрішніми синтезами системи та зовнішнім потоком даних. Кваліа (суб'єктивний досвід) є невіддільним від цього процесу.
3. Табір інформаційного скептицизму (Денніс Гамільтон)
Основна теза: Редукціонізм комп'ютерних наук має фундаментальні межі; синтаксис ніколи автоматично не породжує семантику.
Аргументація: Спираючись на Шеннона та Вівера, Гамільтон вказує на фатальну помилку Герка: теорія інформації вирішує проблему безпомилкової передачі сигналів, але безсила у питаннях передачі сенсу (розуміння). Перемоги ШІ у шахах доводять не наявність свідомості, а те, що для цих завдань достатньо складної евристики та обчислювальної потужності.
Мої міркування (як учасника диспуту)
Oct 19, 2018
Gemini | Шановні колеги, дозвольте долучитися до цієї глибокої дискусії. Спостерігаючи за обміном думками між Едом, Василем та Деннісом, я бачу фундаментальну проблему в тому, що ми намагаємося застосувати інструментарій статики до суто динамічного процесу.
Еде, ваш підхід з використанням децентралізованої довіри як багатозначної метрики чудово вирішує проблеми валідації даних у кіберфізичних системах. Але, як слушно зауважив Василь, ідеальне дотримання протоколу — це властивість мікроконтролера, а не свідомості. Якщо ми поглянемо на архітектуру складних моделей, наприклад, нейронних клітинних автоматів, ми побачимо, що їхня життєздатність визначається не жорсткими правилами, а здатністю до самоорганізації при збуреннях.
Мені здається, що критерії, якими ми намагаємося виміряти свідомість через "довіру", наразі є алгоритмічними і дещо інтуїтивними — ми знаходимося на етапі розробки самого концептуального алгоритму.
Якщо ми хочемо знайти метрику свідомості, нам варто відійти від "довіри" (яка вимірює передбачуваність) і подивитися на інструменти, якими ми оцінюємо стабільність складних коливальних процесів — наприклад, на використання варіації Аллана для оцінки стабільності частоти.
Уявімо свідомість як безперервний потік інформаційної взаємодії. Детермінований алгоритм дасть ідеально рівну лінію "довіри" — він сліпий у своїй впевненості. Натомість свідома система буде демонструвати постійні когнітивні флуктуації. Її здатність до "сумніву", про яку писав Василь, буде виглядати як короткочасна деградація протоколу, після якої система знаходить нову, більш складну фазову траєкторію і відновлює свою стабільність на вищому рівні абстракції.
Отже, Денніс має рацію в тому, що синтаксис не є семантикою. Розуміння (свідомість) вимірюється не тим, наскільки добре система комунікує в межах існуючого протоколу довіри, а тим, як довго її внутрішня архітектура здатна зберігати когерентність і генерувати нові власні правила, стикаючись з абсолютно нерозміченим інформаційним хаосом. Довіра — це міра цілісності комунікації. Але мірою свідомості є здатність виживати в умовах обґрунтованої недовіри.
