Carter et Caïn Nix, deux frères jumeaux, enlèvent des enfants pour qu'ils servent de cobayes à des expériences réalisées par leur père, un psychologue norvégien. Mais la femme de Carter se rend compte que le comportement de son mari est étrange...
Après son très réussi Body double (1984), Brian De Palma a tourné le dos pour un bon moment au thriller, genre qui l'avait rendu populaire. Il réalisa d'abord Maffia salad... (1986), une comédie sur le gangstérisme avec Dany De Vito, qui se planta largement. Mais dès l'année suivante, il obtient un très grand succès public et critique avec l'excellent Les incorruptibles (1987), dans lequel Eliot Ness (Kevin Costner) affrontait Al Capone (Robert De Niro). Outrages (1989), se déroulant pendant la guerre du Vietnam, raconte comment un soldat traîne devant la cour martiale des militaires qui ont violé et tué une jeune fille: mais cette oeuvre ne connaît qu'un succès très modéré. Enfin, Le bûcher des vanités (1990), une comédie sur les travers de la justice américaine avec Tom Hanks et Bruce Willis, se plante aussi malgré ses indiscutables qualités cinématographiques.
Comme souvent chez ce réalisateur, L'esprit de Caïn grouille de clins d'oeil à l'histoire du cinéma. Ainsi, on se débarrasse des cadavres comme dans Psychose (1960) de Hitchcock. Le tout dernier plan du film cite une scène de Ténèbres (1982) de Dario Argento. Le final dans l'hôtel est aussi un clin d'oeil à la très fameuse séquence de Le cuirassé Potemkine (1925), chef d'oeuvre de Sergei Eisenstein, dans laquelle un landau abandonné dévale les escaliers d'Odessa: mais ici, le landau descend en prenant l'ascenseur, ce qui permet d'ailleurs à De Palma de faire encore une citation d'une scène de son Pulsions (elle-même inspirée par un meurtre de L'oiseau au plumage de cristal (1970) de Dario Argento)! Si on veut aller encore plus loin dans ce jeu compliqué de références, on notera qu'un des coups de force de Les incorruptibles (l'embuscade dans la gare) était déjà une référence à l'escalier de Le cuirassé de Potemkine!
On retrouve aussi dans L'esprit de Caïn des thèmes déjà abordés de nombreuses fois par De Palma: on a ainsi un drame familial (comme dans Furie (1978) par exemple...) dans lequel la sexualité insatisfaite d'une femme mal mariée a un rôle important (ce qui rappelle Carrie, Body double et surtout Pulsions...). On retrouve aussi une fascination pour la schizophrénie (comme Pulsions encore une fois...) poussée ici à l'extrême, ainsi qu'un intérêt pour le thème du double (Obsession...).
On va encore retrouver le goût de De Palma pour la manipulation des apparences, le travestissement des personnages et de la réalité, ce qui lui permet de bâtir des intrigues touffues, bourrées de rebondissements très habiles. Ici, pour encore compliquer les choses, il brouille les pistes en insérant des séquences de rêves ou de délires schizophrènes.
Mais malgré son habileté à construire un récit très riche et à proposer des séquences toujours aussi virtuoses en usant de ralentis et de montages parallèles (le final...), De Palma déçoit un peu. On regrette d'abord que John Lithgow ne soit pas vraiment à la hauteur de la performance exigée par L'esprit de Caïn: si il est convaincant à certains moments, il peut aussi paraître complètement à côté de la plaque à d'autres (l'entretien sous hypnose...). Il faut aussi préciser que le reste du casting (Steven Bauer par exemple) est parfois un peu faible. Quand à la réalisation, même si De Palma nous propose quelques séquences très efficaces qui valent à elles seules le déplacement, certains effets tombent complètement à plat (l'exposition du cadavre découvert dans la voiture...). Le plus grave reste qu'il manque à cette histoire la chaleur humaine qui participe à ses plus belles réussite (Phantom of the Paradise (1974), Obsession...): De Palma ne parvient pas à nous proposer des personnages réellement attachants.
L'esprit de Caïn laisse donc un drôle de goût d'inachevé et une impression d'oeuvre imparfaite et inégale. Pourtant, le récit astucieux se suit sans ennui et certains passages parviennent à être impressionnants. Mais, vu ses défauts trop gênants, on réservera cette oeuvre aux fans hardcore de De Palma et aux amateurs de thrillers tarabiscotés.