Por mais de sessenta anos, desde que li pela primeira vez A Natureza do Mundo Físico , de Arthur Stanley Eddington , tenho me esforçado, como "filósofo da informação", para entender e encontrar maneiras mais simples de explicar o conceito de entropia.

Ainda mais desafiador tem sido encontrar a melhor maneira de ensinar as conexões matemáticas e filosóficas entre entropia e informação . Grande parte da literatura científica reclama que esses conceitos são muito difíceis de entender e podem não ter nenhuma relação entre si.

Finalmente, há o importante conceito de probabilidade , com sua implicação de possibilidades , uma ou mais das quais podem se tornar realidade .

Filósofos deterministas (talvez a maioria) e cientistas (uma minoria expressiva) afirmam que usamos probabilidade e estatística apenas porque nossas mentes finitas são incapazes de compreender a realidade. Sua concepção do universo é a de que ele contém informação infinita, que somente uma mente infinita pode compreender. Nosso universo observável contém uma quantidade imensa, porém finita, de informação.

Existe uma forte ligação entre entropia e probabilidade. A fórmula de Ludwig Boltzmann para a entropia é S  = log W , onde W significa Wahrscheinlichkeit , a palavra alemã para probabilidade.

Quanto ao símbolo S , suspeito que Rudolf Clausius , que primeiro definiu e nomeou a entropia, usou S em homenagem a Sadi Carnot , cujo estudo sobre a eficiência das máquinas térmicas mostrou que uma certa fração da energia disponível é sempre desperdiçada ou dissipada, e apenas uma parte pode ser convertida novamente em trabalho mecânico.

A parcela de energia que permanece disponível para ser convertida em trabalho (às vezes chamada de "energia livre") é paralela à quantidade de informação restante em um sistema que está sendo dissipada. A entropia é uma medida da informação perdida devido ao aumento do caos.

S  = log W é matematicamente idêntico à expressão de Claude Shannon para a informação I , mas com um sinal negativo e dimensões diferentes.

Entropia de Boltzmann: S = k ∑ p _i ln p _i . Informação de Shannon: I = - ∑ p _i ln p _i .

A entropia de Boltzmann e a entropia de Shannon têm dimensões diferentes ( S = joules/°K,
I = "bits" adimensionais), mas compartilham o "isomorfismo matemático" de um logaritmo de probabilidades, que é a base tanto da mecânica estatística de Boltzmann quanto da de Gibbs .

A primeira entropia é material, a segunda matemática – na verdade, informação puramente imaterial .

Mas elas possuem conexões profundamente importantes que a filosofia da informação precisa esclarecer e explicar.

Em primeiro lugar, tanto as expressões de Boltzmann quanto as de Shannon contêm probabilidades e estatísticas . Muitos filósofos e cientistas negam qualquer indeterminismo ontológico , como o acaso na mecânica quântica descoberto por Albert Einstein em 1916. Eles podem aceitar uma incerteza epistemológica , como a proposta por Werner Heisenberg em 1927.

Hoje, muitos pensadores propõem teorias do caos e da complexidade (ambas teorias completamente deterministas ) como explicações adequadas, enquanto negam o acaso ontológico . O acaso ontológico é a base para a criação de qualquer estrutura de informação. Ele explica a variação nas espécies necessária para a evolução darwiniana. Ele fundamenta a liberdade humana e a criação de novas ideias.

Em mecânica estatística, a soma ∑ abrange todas as distribuições possíveis de partículas de gás em um recipiente. Se o número de distribuições for W e a probabilidade de todas as distribuições for a mesma, os p _{_i} serão todos iguais a 1/ W e a entropia será máxima: S = k ∑ 1/ W ln 1/ W , então S = k ln W.

Na comunicação de informações, W é o número de mensagens possíveis. Se a probabilidade de todas as mensagens ser a mesma, ou seja, se as _mensagens forem idênticas, então I = - ln W. Se houver N mensagens possíveis, então N bits de informação são comunicados ao receber uma delas.

Por outro lado, se houver apenas uma mensagem possível, sua probabilidade é unitária e o conteúdo de informação é 1 ln 0 = zero.

Se houver apenas uma mensagem possível, nenhuma informação nova será comunicada. Este é o caso em um universo determinístico , onde eventos passados causam completamente os eventos presentes. A informação em um universo determinístico é uma constante da natureza. Religiões que incluem um deus onisciente frequentemente acreditam que toda essa informação está na mente de Deus.

Note que, se não houver possibilidades alternativas nas mensagens, Shannon (seguindo seu colega dos Laboratórios Bell, Ralph Hartley ) afirma que não pode haver novas informações. Concluímos que a criação de novas estruturas de informação no universo só é possível porque o universo é, de fato, indeterminístico e nossos futuros são abertos e livres .

A entropia termodinâmica envolve matéria e energia, a entropia de Shannon é inteiramente matemática, em certo nível puramente informação imaterial , embora não possa existir fisicamente sem uma fonte de entropia termodinâmica "negativa", como ensinou Erwin Schrödinger em seu famoso ensaio "O Que É a Vida".

É verdade que a informação não é matéria nem energia, que são constantes conservadas da natureza (a primeira lei da termodinâmica). Mas a informação precisa de matéria para ser incorporada em uma "estrutura de informação". E precisa de energia ("gratuita") para ser comunicada pelos canais de informação de Shannon.

A entropia de Boltzmann está intrinsecamente relacionada à "entropia negativa". Sem bolsões de entropia negativa no universo (e fluxos de energia livre fora do equilíbrio), não haveria "estruturas de informação" em lugar nenhum.

Bolsões de entropia negativa estão envolvidos na criação de tudo o que é interessante no universo. É um processo de criação cósmica sem criador .

Existe uma ideia equivocada na física estatística de que qualquer distribuição ou arranjo específico de partículas materiais possui exatamente o mesmo conteúdo de informação que qualquer outra distribuição. Isso é um anacronismo da física estatística determinista do século XIX.

Hemoglobina	Difusão	Gás completamente misturado

Se medirmos as posições no espaço de fase de todos os átomos em uma proteína de hemoglobina, obteremos um certo número de bits de dados (os valores x, y, z, v_{_x} , v _{_y} , v_{_z}). Se todas as ligações químicas forem rompidas, permitindo que os átomos se difundam, ou se os átomos forem completamente aleatorizados em um gás em equilíbrio com entropia máxima, obteremos valores diferentes, mas a mesma quantidade de dados. Isso significa que qualquer distribuição específica contém exatamente a mesma informação?

Isso levou muitos físicos estatísticos a afirmar que a informação em um gás é a mesma, independentemente da posição das partículas. A informação macroscópica não se perde, apenas se transforma em informação microscópica que pode ser completamente recuperada se os movimentos de cada partícula pudessem ser revertidos. A reversibilidade permite que todas as partículas do gás retornem ao interior do frasco.

Mas a informação na hemoglobina é muito maior e a desordem (entropia) próxima de zero. Um ser humano não é apenas um "saco de substâncias químicas", apesar do que afirma o biólogo vegetal Anthony Cashmore . Cada átomo na hemoglobina não está simplesmente em um volume limitado pelo princípio da incerteza ℏ³ ^, mas sim em uma relação quântica cooperativa específica com seus vizinhos, que sustenta sua função biológica. Essas relações posicionais precisas transformam uma proteína linear passiva em uma enzima ativa e corretamente estruturada. Romper todas essas ligações químico-quânticas destrói a vida .

Onde existe uma estrutura de informação, a entropia é baixa e a energia livre de Gibbs é alta.

Quando as partículas de gás podem se mover livremente em um recipiente, o número de distribuições possíveis é enorme e a entropia é máxima. Quando os átomos estão ligados uns aos outros na estrutura da hemoglobina, o número de distribuições possíveis é essencialmente 1 , e o logaritmo de 1 é 0 !

Mais importante ainda, as partes de cada ser vivo comunicam informações — sinalizam — para outras partes, próximas e distantes, bem como para outros seres vivos. A comunicação de informações permite que cada ser vivo se mantenha em estado de homeostase , equilibrando toda a matéria e energia que entra e sai, mantendo todas as funções vitais. A física estatística e a termodinâmica química nada sabem sobre essa informação biológica.

Normal | Professor | Pesquisador