Тут дело даже не в непоследовательности, а в использовании слова "война" вместо "сражение". В сражении уничтожение всех комбатантов противника может быть целью (просто обычно физически недостижимой), а вот в войне, как в конфликте более высокого порядка - по-моему, обычно такая цель даже не ставится.

Речь шла именно о сражении в городе, это нужно было уточнить. В войне, разумеется, такая цель никем не ставится.

система А (человек) для создания и контроля системы Б (ИИ) должна иметь большую сложность/разнообразие, чем создаваемая система. В то же время, и человеческий и искусственный интеллект имеют одинаковое разнообразие.

Во-первых, это утверждение никаким образом не вытекает из данных тобой ссылок.

Во-вторых, биология напрямую опровергает это утверждение. Трудно сказать, что мозг животного как-то принципиально сложнее/разнообразнее его тела, однако мозг контролирует тело. Я уж не говорю о, например, паразитах, которые принципиально проще животных, однако могут контролировать своих носителей вплоть до влияния на их цикл размножения. Я уверен, что если покопаться - можно найти очень много примеров, когда простой принцип или система порождает и контролирует нечто намного более сложное.

В-третьих, человеку не нужно понимать, как устроена система, чтобы создать ее. Ни один человек на свете не понимает от начала и до конца, во всех деталях и тонкостях, как устроен компьютер, с помощью которых мы общаемся, но этого и не нужно - достаточно, что тысяча человек понимает во всех деталях и тонкостях, как устроены тысячные части компьютера - а дальше они могут работать вместе, чтобы этот компьютер создать по тысяче частей.

В-четвертых, человек вряд ли вообще будет понимать, как ИИ выполняет поставленные перед ним задачи, но это не помешает его создать. Хороший пример - Deep Mind. Ни один человек на Земле не понимает до конца логику ходов Deep Mind в матче с Ли Седолем - если бы он понимал, то он играл как минимум так же хорошо, как Deep Mind. Deep Mind с момента, как он начинает обучение, для нас - черный ящик. Мы не понимаем, как он работает. Но он работает правильно, и это все, что от него требуется.

роботы (которые даже с суперпупер системой свой-чужой пизанта от противника не отличит в принципе)

Роботу достаточно уметь отличить вооруженного противника от невооруженного. Что дело совсем недалекого будущего, учитывая, что "органы чувств" робота намного более совершенные.

Цель войны - нейтрализация вооружённых сил противника.

И проще всего это сделать по традиции: уничтожить всех.

Кибернетика запрещает.

Мысль разовьете? Потому что не понятно, почему кибернетика тогда живой мозг не запрещает.

Разве?

Машины без водителей уже четыре года как активно тестируют. Причем на публичных дорогах.

Самое главное, чтоб эта мысль не пришла в голову какому-нибудь скайнету 

Скайнет не будет думать. Тут в этом треде уже порекомендовали рассказ "Малак" - он хорошо передает, как будет работать скайнет. "Мысли" ему совершенно не будут нужны.

Нормальный ИИ (в смысле тот самый ИИ, а не гламурные подделки, типа "холодильника с искуственным интеллектом") создать как бы невозможно.

C чего бы это его создать невозможно? Раз за разом было уже: "компьютер никогда не сможет победить человека в шахматы", "компьютер никогда не сможет распознавать, что есть на изображениях", "компьютеры никогда не смогут проводить эксперименты и формулировать теории". Потом компьютер учат делать невозможное, и критики заявляют - "но это же не АИ".

Но для войны нам и не нужен АИ, в общем-то. Нам нужен компьютер, который умеет работать на двух уровнях:
а) на "базовом" - умеет отличать своих от чужих, принимать команды от вышестоящих и правильно их интерпретировать. В основном их задачи сведутся к "иди туда, стреляй по пути" или "удерживай позицию, не давай никому подойти". В дальнейшем этот компьютер будут так же делать все более и более загруженным "тактикой".
б) на "высоком" - умеет решать задачи стратегии и логистики или хотя бы помогать в их решении человеку.
Собственно, это ответ на

   

• Что оные роботы будут уметь, а чего, скорее всего, не будут уметь? Какова будет степень их самостоятельности, и в какой степени они будут нуждаться в постоянном контроле?

   

• Какие рода войск, скорее всего, в таком будущем отойдут в прошлое, в каких сферах роботы вряд ли смогут заменить собой людей, и какие новые рода войск появятся в таком будущем?

Проще сказать, какие не уйдут - те, которые не рискнут доверить: ядерное оружие. В начале людей будут замещать роботами на местах, где интеллекта нужно поменьше: пушечное мясо, водители, простое техобслуживание. Затем люди останутся лишь на командных должностях. С появлением общего АИ люди уже не нужны вообще. 

   

• Что должно будет быть целью боевых операций с применением роботов (раз уж уничтожение живой силы противника для нас не в приоритете), и как защищающаяся сторона будет противодействовать этим операциям?

То же, что может быть целью боевых операций с участием людей. Война - это политика, а политику машинам не отдадут до последнего.

   

• Какие специальные противо-роботские виды оружия/защитные средства/и т.д. возникнут в этом вероятном будущем? Какие у роботов будут уязвимые места, наличие которых может проэксплуатировать противник?

Не буду рассматривать EMP и прочих наноботов - самым интересным уязвимым местом будут алгоритмы противника. Зная, как мыслит вражеский компьютер - можно выработать меры противодействия. Разумеется, человек этим уже не займется - он уже не будет понимать устройство роботов на этом этапе, однако появятся специальные компьютеры, которые будут заниматься поиском уязвимостей и слабых мест. Можно их назвать робо-психологами 

   

• Возможно, немаловажный и интересный вопрос: к каким социально-психологическим изменениям может привести переход на небольшие роботизированные армии от больших масс вооружённых людей? Предельно грубо говоря: что будут делать люди, никогда не собиравшиеся брать в руки оружие, и от которых этого никто не ожидал, когда роботизированные армии начнут стрелять по их городам?
  

То же, что они бы делали, если стреляли бы люди - паниковать и смотреть на вышестоящего в ожидании приказа.