Kenneth Stanley
(1975-)
Kenneth Stanley é pesquisador de inteligência artificial, autor e foi professor de ciência da computação na Universidade da Flórida Central de 2006 a 2020. Lá, ele criou o algoritmo Neuroevolution of Augmenting Topologies (NEAT). O NEAT é uma rede neural artificial de evolução de topologia e peso (TWEANN) que busca aprender valores de peso e uma topologia apropriada para uma rede neural.
A NEAT começa com uma rede feedforward semelhante a um perceptron, composta apenas por neurônios de entrada e de saída. À medida que a evolução progride por meio de etapas discretas, a complexidade da topologia da rede pode aumentar, seja pela inserção de um novo neurônio em um caminho de conexão, seja pela criação de uma nova conexão entre neurônios (anteriormente desconectados). A NEAT representa a informação em um "genótipo" como um conjunto ordenado de neurônios. Outros genomas podem incluir os mesmos neurônios, mas em uma ordem diferente.
Em 2007, ele criou o PicBreeder, um software que usa o algoritmo NEAT para permitir que os usuários evoluam imagens, gerando imagens aleatoriamente e permitindo que o usuário escolha qual imagem produzirá descendentes. Isso permite que os usuários transformem manchas aleatórias em formas reconhecíveis, como animais ou carros.
Em 2015, em coautoria com Joel Lehman, escreveu " Por que a grandeza não pode ser planejada: o mito do objetivo" , que defende que buscar a novidade em vez de um objetivo específico aumenta as chances de sucesso em uma tarefa criativa.
Ele foi cofundador e co-cientista-chefe da Geometric Intelligence , empresa adquirida pela Uber no final de 2016 para criar o Uber AI Labs , onde liderou a pesquisa básica em IA. Em 2020, ingressou na OpenAI e liderou a equipe de Abertura até 2022, quando fundou e liderou a Maven , uma rede social baseada em IA, da qual se desligou em 2024.
Em 2025, Stanley juntou-se à Lila Sciences e à sua busca pela "Superinteligência Científica". Na Lila, ele é o Vice-Presidente Sênior de "Abertura".
Seu artigo mais recente aborda o problema da representação em IA, intitulado " Questionando o Otimismo Representacional em Aprendizado Profundo: A Hipótese da Representação Emaranhada e Fraturada" . Ele escreve...
Comparamos redes neurais evoluídas por meio de um processo de busca aberta com redes treinadas via descida de gradiente estocástica (SGD) convencional na tarefa simples de gerar uma única imagem. Essa configuração minimalista oferece uma vantagem única: o comportamento funcional completo de cada neurônio oculto pode ser facilmente visualizado como uma imagem, revelando assim como o comportamento de saída da rede é construído internamente, neurônio por neurônio. O resultado é surpreendente: embora ambas as redes produzam o mesmo comportamento de saída, suas representações internas diferem drasticamente. As redes treinadas por SGD exibem uma forma de desorganização que denominamos representação emaranhada fragmentada (FER). Curiosamente, as redes evoluídas praticamente não apresentam FER, chegando até mesmo a se aproximar de uma representação fatorada unificada (UFR). Em modelos grandes, a FER pode estar degradando capacidades essenciais do modelo, como generalização, criatividade e aprendizado (contínuo). Portanto, compreender e mitigar a FER pode ser crucial para o futuro do aprendizado de representações.
Questionando a Representacionalidade , p.1
Nossa hipótese é que, quando modelos de aprendizado profundo são treinados para atingir um objetivo específico, tipicamente por meio de retropropagação e descida de gradiente estocástica, a representação resultante tende a ser fragmentada. Isso significa que a informação subjacente aos mesmos conceitos unitários (por exemplo, como somar números) é dividida em partes desconectadas. É importante ressaltar que essas partes se tornam redundantes como resultado dessa fragmentação: elas são invocadas separadamente em diferentes contextos para modelar o mesmo conceito subjacente, quando, idealmente, uma única instância do conceito seria suficiente. Em outras palavras, onde idealmente haveria a reutilização de um único entendimento profundo de um conceito, existem, em vez disso, diferentes mecanismos para atingir a mesma função.
Ao mesmo tempo, essas funções fragmentadas (e, portanto, redundantes) tendem a se entrelaçar com outras funções fragmentadas, o que significa que comportamentos que deveriam ser independentes e modulares acabam influenciando-se mutuamente de maneiras idiossincráticas e inadequadas. Por exemplo, um conjunto de neurônios em um gerador de imagens que altera a cor do cabelo também pode causar a mudança da folhagem ao fundo, e separar esses dois efeitos pode ser impossível.
Questionando a Representacionalidade , pp. 2-3
Normal |
Professor |
Pesquisador