Да, в каждом нейроне будет свой микро-CPU - самый маленький в мире. Но он нужен для просчета различных функций активации - без этого никуда.
А вот насчет "просто матрицы соединенных друг с другом" - дак тут не все так просто. Каждый нейрон может быть связан с тысячами других и наоборот - принимать сигналы от тысячи других нейронов. Так что "просто соединенных" только кажется "простым". Впрочем - все-равно технология уникальная.