En 1931, dans son livre Le Jeune Algérien, il estimait que rien dans le Coran n'interdisait d'être citoyen français, sous la réserve d'observer les règles morales et sociologiques de la religion musulmane. En 1936, il s'élevait contre l'idée d'une nation algérienne uniquement fondée sur l'Islam et lançait la déclaration fréquemment reproduite depuis :
"S/ j'avais découvert la nation algérienne, je serais nationaliste et je n'en rougirais pas comme d'un crime ...Et cependant, je ne mourrai pas pour la patrie algérienne, parce que cette patrie n'existe pas. Je ne l'ai pas découverte. J'ai interrogé l'histoire, j'ai interrogé les vivants et les morts, j'ai visité les cimetières : personne ne m'en a parlé".

Le projet Blum-Viollette

Après la victoire électorale du Front Populaire et la constitution du gouvernement Blum, Maurice Viollette, Sénateur d'Eure et Loir et Gouverneur général de l'Algérie de 1925 à 1927, déposait en décembre 1936 un projet de loi d'initiative gouvernementale.
Ce projet Blum-Viollette reconnaissait la citoyenneté française à certaines catégories de musulmans qui pouvaient conserver leur statut personnel. La Commission du Suffrage universel à la Chambre des Députés examina le premier article du projet mais ne repris pas les autres. C'était donc un ajournement sine die
La seconde Guerre mondiale conduisit les autorités françaises à définir de nouvelles politiques que nous verrons s'esquisser dès 1940-1941.

Les élites musulmanes et le gouvernement de Vichy

Après l'armistice de juin 1940, les réformes administratives ne pouvaient se concevoir sans la reprise de la question des élites musulmanes. En 1941, le gouvernement de Vichy nommait Augustin Berque à la direction des affaires musulmanes au Gouvernement général de l'Algérie, pour définir une nouvelle politique des élites musulmanes.
Berque, contrairement à son prédécesseur le professeur de Droit Milliot, ne s'appuyait pas sur les chefs des grandes familles, notamment les maraboutiques. Cette politique lui semblait caduque au moment où l'influence de cette catégorie sociale faiblissait. Pour lui, il fallait s'appuyer sur de nouvelles élites, nées de la promotion sociale et de la lente montée économique d'une classe moyenne. Les petits propriétaires ruraux devaient en constituer l'assise, parce qu'ils avaient "un intérêt vital à la domination française". La politique de Berque tendait au maintien de la souveraineté française à long terme. La montée, encore confuse, d'une minorité d'évolués devait permettre "de ne laisser aucune supériorité intellectuelle ou sociale se révéler sans l'aborder ou la neutraliser aussitôt, de façon qu'aucune force ne passe à l'opposition". Dans cet esprit, le nombre des intellectuels musulmans de culture française devait être augmenté dans les conseils municipaux nommés par Vichy en 1941 et 1942.
Augustin Berque était issu du Corps des administrateurs de Communes mixtes. A Alger, sensible aux conseils des spécialistes : universitaires, officiers des affaires indigènes, fonctionnaires du gouvernement général de l'Algérie, il s'inspirait des réflexions qui se faisaient jour depuis les années 1920 dans le sillage des réformes de C. Jonnart. En ce début des années 1940, un groupe de fonctionnaires d'Alger avait les yeux tournés vers les élites musulmanes.
Le centre des Hautes études d'Administration musulmanes créé à Paris en 1936, s'était replié à Alger après l'armistice. Son fondateur, l'historien Sébastien Charléty, ancien Recteur de l'Académie de Paris, avait demandé et obtenu du Général Weygand, d'assumer par délégation la présidence du Conseil de direction du Centre. Celui-ci, malgré des débuts difficiles, est remis en place, grâce au Recteur de l'Académie d'Alger, l'historien de la Colonisation Georges Hardy, également nommé par Vichy et qui s'appuyait sur son expérience marocaine auprès de Lyautey.
La dissolution des municipalités en 1941 était fondée sur le même principe qu'en Métropole et elle risquait de faire apparaître une tutelle administrative trop étroite. Mais, en réalité, ses effets furent bénéfiques. Elle permit, surtout en pays Kabyle, une adhésion plus large des Musulmans à la vie municipale. Une telle mesure était en effet, la bienvenue en Kabylie, où la tradition des assemblées de village était conforme aux mentalités. Vichy innovait en ce domaine et son expérience devait être reprise avec les centres municipaux de Kabylie à partir de 1945 et pendant la guerre d'Algérie de 1955 à 1959.
La municipalité d'Alger constituée en décembre 1941 sous la direction d'Augustin Rozis, Maire élu en 1935, comprenait huit Musulmans. Les professions étaient ainsi réparties : deux avocats, un officier, un directeur d'école, un cheminot, un employé, un propriétaire foncier et un ingénieur, Salah Bouakouir, Kabyle, ancien élève de Polytechnique et futur Secrétaire général adjoint de la Délégation générale en Algérie. Très forte personnalité, Salah Bouakouir, Directeur de l'Energie au Gouvernement général, fut nommé en 1959 Secrétaire général adjoint de la Délégation générale, chargé des Affaires économiques. Il est mort accidentellement en septembre 1961.
L'Algérie devait compter deux autres Polytechniciens d'origine indigène, le colonel Cadi et Edouard Mouloud, converti au catholicisme, officier d'aviation, devenu Directeur des Chemins de Fer algériens (SNCFA à partir de 1958).
En 1941, quatre Musulmans furent nommés au Conseil national institué par le Gouvernement de Vichy : pour le département d'Alger, le pharmacien Boukerdenna et le professeur de Medersa Ibnou Zekri ; pour le Constantinois, l'avocat Cherif Sisbane et pour l'Oranie, Benchiha Boucif, agriculteur. Lorsque Pierre Laval devint chef du gouvernement en avril 1942, il envisagea un Secrétariat d'Etat pour Amar Naroun originaire de Petite Kabylie, et, plus tard, Député de Constantine. Laval était lié d'amitié avec le Préfet d'origine kabyle, Cherif Mecheri, qui devint collaborateur de Vincent Auriol à l'Elysée.

Weygand

Pour Weygand, l'unification des méthodes administratives métropolitaines et algériennes avait conduit à une véritable inertie de la politique indigène devenue dépourvue d'autorité comme de générosité. Ainsi, le mode de rémunération des Caïds laissait-il à désirer. Ceux-ci étaient souvent nommés sans garanties suffisantes et avec des rémunérations trop modiques. Trop souvent aussi, un certain nombre de Caïds augmentaient leur traitement par des procédés irréguliers, ce qui les faisaient mésestimer et détester.
En août 1942, le maréchal Pétain recevait à déjeuner Augustin Ibazizen, Kabyle converti au catholicisme, officier de réserve et avocat. Il lui déclarait :
"Je sais bien que vos camarades et vos compatriotes en général, souffrent et qu'ils ne sont pas satisfaits de leur condition... C'est un sujet qui me préoccupe et il faudra changer cette condition en fonction de leurs sacrifices et de l'évolution des hommes. Malheureusement, nous ne pouvons faire actuellement ce que nous voudrions. Vous savez pourquoi... Qu'ils gardent confiance, car nous changerons leur sort dès que la France aura retrouvé la plénitude de ses moyens. "