Em um importante artigo de 1949 intitulado "Vida, Termodinâmica e Cibernética", Brillouin inspirou-se no novo livro de Norbert Wiener, Cibernética , e em sua conexão da nova teoria da informação com a entropia e a inteligência.

Uma das partes mais interessantes da obra Cibernética de Wiener é a discussão sobre "Séries temporais, informação e comunicação", na qual ele especifica que uma certa "quantidade de informação é o negativo da quantidade geralmente definida como entropia em situações semelhantes".

Este é um ponto de vista notável, que abre caminho para algumas generalizações importantes da noção de entropia. Wiener introduz uma definição matemática precisa dessa nova entropia negativa para um certo número de problemas de comunicação e discute a questão da previsão temporal: quando possuímos uma certa quantidade de dados sobre o comportamento de um sistema no passado, quanto podemos prever sobre o comportamento desse sistema no futuro?

"Inteligência" era o que os primeiros artigos de Claude Shannon diziam que estava sendo transmitido, ou seja, conhecimento , ou "know-how".

Além dessas brilhantes considerações, Wiener indica claramente a necessidade de uma extensão da noção de entropia. "A informação representa entropia negativa"; mas, se adotarmos esse ponto de vista, como podemos evitar sua extensão a todos os tipos de inteligência Certamente, devemos estar preparados para discutir a extensão da entropia ao conhecimento científico, ao saber técnico e a todas as formas de pensamento inteligente. Alguns exemplos podem ilustrar esse novo problema.

Compare a visão de Anthony Cashmore de que um ser humano é apenas um "saco de produtos químicos". Ou a ideia da Hmolpedia de Libb Thims de que somos apenas "moléculas humanas".

Considere um exemplar do New York Times , um livro sobre Cibernética e uma quantidade igual de papel de rascunho. Eles têm a mesma entropia De acordo com a definição física usual, a resposta é "sim". Mas, para um leitor inteligente, a quantidade de informação contida nos três conjuntos de papel é muito diferente. Se "informação significa entropia negativa", como sugere Wiener, como vamos medir essa nova contribuição para a entropia Wiener sugere algumas definições práticas e numéricas que podem ser aplicadas ao problema mais simples possível desse tipo. Isso representa um campo de investigação inteiramente novo e uma ideia revolucionária.

("Vida, Termodinâmica e Cibernética", American Scientist , 37 , p. 554)

Em seu livro de 1956, Ciência e Teoria da Informação , Leon Brillouin cunhou o termo "negentropia" para a entropia negativa (uma característica da energia livre ou disponível, em oposição à energia térmica em equilíbrio). Ele então a relacionou à informação no que chamou de "princípio da negentropia da informação".

Brillouin descreveu seu princípio como uma generalização do princípio de Carnot, segundo o qual, na evolução normal de qualquer sistema, a variação da entropia é maior ou igual a zero.

Qualquer aumento na informação ΔI deve ser compensado por um aumento igual na entropia, portanto a forma mais geral da equação 1 é:

Novas informações só podem ser obtidas à custa da negentropia de algum outro sistema. A principal fonte de negentropia para a vida terrestre é o Sol, que adquiriu seu estado de baixa entropia a partir da expansão do universo, seguida pelo colapso de partículas materiais sob a força da gravidade.

Brillouin resume suas ideias:

A aquisição de informações sobre um sistema físico corresponde a um estado de entropia mais baixo para esse sistema. Baixa entropia implica uma situação instável que, mais cedo ou mais tarde, seguirá sua evolução normal em direção à estabilidade e alta entropia.

O segundo princípio não nos diz nada sobre o tempo necessário e, portanto, não sabemos por quanto tempo o sistema reterá a informação. Mas, se a termodinâmica clássica não consegue responder a esta questão tão importante, podemos obter a resposta através da discussão do modelo molecular ou atômico, com o auxílio da teoria cinética: a taxa de atenuação de todos os tipos de ondas, a taxa de difusão, a velocidade das reações químicas, etc., podem ser calculadas a partir de modelos adequados e podem variar de pequenas frações de segundo a anos ou séculos.

Esses atrasos são utilizados em todas as aplicações práticas: um sistema de pulsos (representando pontos e traços, por exemplo) não demora muito para ser atenuado e esquecido quando enviado por um cabo elétrico, mas esse curto intervalo de tempo é suficiente para a transmissão mesmo a longas distâncias, tornando as telecomunicações possíveis.

Um sistema capaz de reter informações por algum tempo pode ser usado como dispositivo de memória em um computador. Os exemplos discutidos na seção anterior não são apenas interessantes do ponto de vista teórico, mas também mostram como abordar um problema prático. Consideremos, por exemplo, os problemas de difusão e distribuição de spin... A informação armazenada neste sistema corresponde a uma diminuição da entropia. Nossa discussão mostra como essa situação é progressivamente destruída pela difusão e pelas colisões, que aumentam a entropia e apagam a informação.

A entropia é geralmente descrita como a medida da quantidade de desordem em um sistema físico. Uma afirmação mais precisa seria que a entropia mede a falta de informação sobre a estrutura real do sistema. Essa falta de informação introduz a possibilidade de uma grande variedade de estruturas microscopicamente distintas, que, na prática, somos incapazes de distinguir umas das outras. Como qualquer uma dessas diferentes microestruturas pode ser efetivamente realizada a qualquer momento, a falta de informação corresponde à desordem real nos graus de liberdade ocultos.

Essa situação fica claramente ilustrada no caso do gás ideal. Quando especificamos o número total n de átomos, sua massa m , seu fator de degenerescência g e a energia total E , não indicamos as posições e velocidades de cada átomo individual. Como não especificamos as posições e velocidades dos átomos, não conseguimos distinguir entre duas amostras diferentes do gás, quando a diferença consiste apenas nas diferentes posições e velocidades dos átomos. Portanto, podemos descrever a situação como uma de movimento atômico desordenado.

A origem de nossas ideias modernas sobre entropia e informação pode ser encontrada em um antigo artigo de Szilard ⁵ , que realizou o trabalho pioneiro, mas não foi bem compreendido na época. A conexão entre entropia e informação foi redescoberta por Shannon ⁶ , mas ele definiu entropia com um sinal exatamente oposto ao da definição termodinâmica padrão. Portanto, o que Shannon chama de entropia da informação representa, na verdade, negentropia. Isso pode ser visto claramente em dois exemplos (páginas 27 e 61 do livro de Shannon), onde ele demonstra que, em alguns processos irreversíveis (um transdutor ou filtro irreversível), sua entropia da informação diminui. Para obter concordância com nossas convenções, inverta o sinal e leia-se negentropia.

A relação entre entropia e informação foi claramente discutida em alguns artigos recentes de Rothstein ⁷ , em total concordância com o ponto de vista apresentado neste capítulo.

( Ciência e Teoria da Informação , 2ª edição, pp. 159-161)

5 L. Szilard, Z. Physik 53, 840 (1929).
6 CE Shannon e W. Weaver, "A Teoria Matemática da Informação". U. of Illinois Press, Urbana Ill., 1949.
7 J. Rothstein, Science 114, 171 (1951); Phys. Rev. 85, 135 (1952).

É claro que Brillouin não deveria estar comparando informações com a termodinâmica clássica, que não possui o conceito de múltiplas possibilidades com diferentes probabilidades, e com o "logaritmo das probabilidades" que se tornou entropia na mecânica estatística de Boltzmann e Gibbs .

Brillouin enfatiza que os erros experimentais são inevitáveis e que é anticientífico pensar em precisão infinita em qualquer medição. Max Born , Ludwig Boltzmann e até mesmo Isaac Newton sabiam disso.

Brillouin afirma que isso torna o determinismo estrito impossível em previsões científicas. O demônio de Laplace não consegue adquirir a informação infinita necessária para prever o futuro perfeitamente, assim como o demônio de Maxwell não consegue adquirir a informação necessária para violar a segunda lei da termodinâmica sem destruir uma quantidade equivalente de negentropia.

A evolução natural de qualquer sistema fechado envolve uma perda de informação .

Supõe-se que as leis da mecânica sejam reversíveis no tempo [Isso também se aplica à evolução unitária da equação de Schrödinger na mecânica quântica], mas isso só é verdade se os erros e as incertezas experimentais forem ignorados.

A teoria da informação nos oferece a possibilidade de definir a quantidade de informação obtida em um determinado experimento e de medi-la com precisão. Precisamos apenas conhecer o campo de incerteza — antes e depois da observação. O logaritmo da razão entre essas duas incertezas fornece a quantidade de informação. Se a incerteza final for muito pequena (medição muito precisa), a informação obtida será muito grande.

O matemático sonha com medições de precisão infinita, definindo, por exemplo, a posição de um ponto sem qualquer possibilidade de erro. Isso significaria um experimento que produziria uma quantidade infinita de informações, o que é fisicamente impossível. Um dos resultados mais importantes da teoria é conhecido como o "princípio da negentropia da informação". Ele afirma que qualquer informação obtida em um experimento deve ser paga em negentropia.

Uma quantidade muito grande de informação terá um preço muito alto, em negentropia. Uma quantidade infinita de informação é inatingível. Uma distância infinitamente curta não pode ser medida, e um contínuo físico no espaço e no tempo é impossível de definir fisicamente.

O papel dos erros experimentais é conhecido há muito tempo e reconhecido por todos os cientistas; porém, geralmente era considerado um efeito secundário, uma fonte de incômodo que podia ser negligenciada na maioria das vezes e deveria ser ignorada pela teoria. A suposição era de que os erros poderiam ser minimizados "tanto quanto se desejasse", por meio de instrumentação cuidadosa, e não desempenhariam nenhum papel essencial. Esse era o ponto de vista dos matemáticos que discutiam os axiomas da geometria, e a maioria dos físicos aceitava, implícita ou explicitamente, esse tipo de idealização. A física moderna precisava se livrar desses esquemas irrealistas, e era indispensável reconhecer a importância fundamental dos erros, juntamente com o fato desagradável de que eles não podem ser minimizados "tanto quanto se desejasse" e devem ser incluídos na teoria.

O primeiro exemplo foi encontrado em conexão com a termodinâmica estatística, mas geralmente era atenuado e levava a muitas discussões (em nossa opinião, frequentemente sem sentido), como: como é possível obter termodinâmica irreversível a partir de leis mecânicas estritamente reversíveis Retornaremos a esse problema ao discutirmos o significado exato de determinismo e mostraremos que ele corresponde a um credo metafísico, não a uma lei física.

Com o princípio da incerteza de Heisenberg , o papel fundamental dos erros experimentais tornou-se uma característica básica da física. Uma lei adicional foi enunciada nos capítulos 12 e 16, denominada "princípio da negentropia da informação". Ela afirma que uma observação fornece uma certa quantidade de informação ΔI , e que essa informação pode ser quantitativamente medida e comparada com o aumento de entropia ΔS durante a medição experimental. O resultado líquido é (em unidades de entropia)

ΔS ≥ ΔI      ou       ΔI + ΔN ≤ 0

com

ΔN = - ΔS ≤ 0

entropia negativa.

O Problema do Determinismo

As leis da mecânica clássica representam uma idealização matemática e não devem ser consideradas como correspondentes às leis reais da natureza. Em muitos problemas (astronomia, por exemplo), elas produzem resultados excelentes que concordam com as observações dentro das margens de erro experimentais. Em outros campos, elas precisaram ser modificadas (relatividade, mecânica quântica). A perspectiva clássica era ignorar o papel e a importância reais dos erros experimentais. Presumia-se que os erros eram acidentais; portanto, sempre se imaginou que eles poderiam ser minimizados ao máximo e, por fim, ignorados. Essa visão excessivamente simplificada levou à suposição de determinismo completo na mecânica clássica. Agora, precisamos reconhecer que os erros experimentais são inevitáveis, uma descoberta que torna o determinismo estrito impossível. Os erros são uma parte essencial do quadro do mundo e devem ser incluídos na teoria.

A causalidade deve ser substituída por probabilidades estatísticas; um cientista pode ou não acreditar no determinismo. É uma questão de fé e pertence à metafísica. Discussões físicas são incapazes de prová-lo ou refutá-lo. Esse ponto de vista geral pode ser chamado de posição "factual".

M. Born expõe a situação com muita clareza. Ele cita Einstein, que afirmou que, antes da mecânica quântica, assumia-se que "tudo se reduzia a objetos situados no espaço-tempo e a relações estritas entre esses objetos... Nada parecia se referir ao nosso conhecimento empírico sobre esses objetos... Isso era o que se entendia por uma descrição física de um mundo externo real". Essa posição se mostra insustentável na física moderna. Não temos como provar a existência de tal mundo externo real , e é muito perigoso falar de algo que não podemos observar. Se restringirmos nosso pensamento a fatos observáveis, podemos apenas falar de possíveis relações entre um determinado experimento e outro, mas jamais devemos discutir o que acontece enquanto não estamos fazendo nenhuma observação; devemos admitir francamente que não sabemos (assim como não sabemos o que acontece do outro lado da Lua). A posição definida dessa forma é adotada por M. Born e concorda com a filosofia da ciência defendida pela Escola de Viena.

Será que esse ponto de vista é aceito por todos os físicos A resposta está longe de ser clara. Matemáticos puros têm grande dificuldade em concordar com essa inclusão de erros na teoria, e muitos físicos teóricos ainda são matemáticos no fundo. As relações de incerteza de Bohr e Heisenberg são baseadas no tipo de pensamento que tentamos definir. Mas, ao observarmos a expansão das teorias quânticas, ficamos impressionados com as inúmeras visualizações sofisticadas que descrevem a física em termos de entidades não observáveis. A linguagem dos físicos está carregada de jargões compreensíveis apenas para especialistas; nomes especiais foram cunhados para termos em uma série de aproximações, como se cada termo isolado tivesse um significado (termos de troca, criação de pares, criação virtual e absorção de partículas, etc.). Na verdade, apenas o resultado final importa. Os sábios sabem onde e como usar essas figuras de linguagem e estão cientes de sua completa falta de realidade. Eles percebem que o jargão representa nada mais do que uma maneira artificial de descrever equações complicadas; mas muitos físicos podem ser enganados por tais métodos, que são realmente perigosos. Em resumo, a teoria quântica presta homenagem superficial ao princípio sólido das descrições objetivas, mas logo se esquece disso e usa uma linguagem muito descuidada.

Além de matemáticos e teóricos quânticos, muitos cientistas se mostram bastante relutantes em encarar a situação descrita acima e em abandonar ideias antiquadas. Eles ainda acreditam em um mundo físico real que segue sua própria evolução imperturbável, quer a observemos ou não. Para conciliar essa visão com as recentes descobertas físicas, eles precisam inventar a existência de uma série de "variáveis ocultas" que somos incapazes de observar atualmente. Em nossa opinião, essas variáveis ocultas podem causar mais mal do que bem. Se não podemos observá-las, admitamos que elas não têm realidade e podem existir apenas na imaginação de seus autores. Isso não é sarcasmo. A imaginação é absolutamente necessária na pesquisa científica, e muitas descobertas importantes foram, inicialmente, obras puramente imaginativas; elas só se tornaram importantes posteriormente, quando a comprovação experimental foi obtida e verificada com resultados previstos pela pura imaginação. Finalmente, as novas descobertas experimentais se tornaram a base científica para a parte que havia sido verificada experimentalmente.

( Ciência e Teoria da Informação , 2ª edição, pp. 302-315)

Em seu livro de 1964, Scientific Uncertainty, and Information (Incerteza Científica e Informação) , Brillouin citou Émile Borel ( Introduction géométrique a quelques théories physiques , 1914, p. 94) ao explicar como uma perturbação externa poderia aleatorizar os movimentos das moléculas em um gás terrestre.

C. É impossível estudar as propriedades de uma única trajetória (matemática). O físico conhece apenas conjuntos de trajetórias, correspondentes a condições iniciais ligeiramente diferentes.

Note que é Brillouin, e não Borel, quem sugere Sirius.

Borel, por exemplo, calculou que um deslocamento de 1 cm em uma massa de 1 grama, localizada em algum lugar em uma estrela não muito distante (digamos, Sirius), alteraria o campo gravitacional da Terra em uma fração de 10⁻¹⁰⁰ ^. O presente autor foi além e provou que qualquer informação obtida em um experimento implica um aumento correspondente de entropia no dispositivo de medição: precisão infinita custaria um aumento infinito de entropia e exigiria energia infinita! Isso é absolutamente impensável.

D. Vamos simplificar o problema e assumir que as leis da mecânica são rigorosas, enquanto os erros experimentais aparecem apenas na determinação das condições iniciais. No conjunto de trajetórias definido por essas condições, algumas podem ser "não degeneradas", enquanto outras podem ser "degeneradas". O conjunto pode explodir em breve, dividindo-se em vários conjuntos menores que avançam em direções diferentes. Este é o caso de um modelo correspondente à teoria cinética dos gases. Borel calcula que erros de 10⁻¹⁰⁰ ^nas condições iniciais permitirão prever colisões moleculares por uma fração de segundo, e nada mais. Não é apenas "muito difícil", mas na verdade impossível prever com exatidão o comportamento futuro de tal modelo. As presentes considerações levam diretamente à mecânica estatística de Boltzmann e ao chamado teorema "ergódico".

( Incerteza científica e informação , p. 125)