Pour une fois que je rédige un post court... Mais t'as raison, une explication s'impose. Bon, d'abord, "Halloween, la nuit des masques", c'est certes un archétype mais pas "le modèle" du genre, considéré comme l'oeuvre qui en est à l'origine. Il s'inscrit dans une lignée commencée avec "Massacre à la tronçonneuse", qui lui est antérieur de quelques années comme tu le sais et qui est le premier film, selon moi, à proposer la vision moderne du genre en question, sous le nom de gore. Il faudrait d'abord examiner la question en tenant compte des genres et des sous-genres que tu as mentionnés, mais je m'en tiens dans les grandes lignes au schéma traditionnel de ton commentaire. Il se distingue du fantastique essentiellement sur deux points : la folie et le caractère sanglant de la mise en scène des meurtres. Je mets à part des réalisateurs comme Argento, Craven et même Carpenter dans ses meilleurs jours, qui apportent des thématiques particulières (relevant généralement du domaine artistique) à leurs films, comme la peinture ou la littérature.
J'ai parlé de vision moderne du genre car à l'origine du film gore il y a un film que nous avons récemment évoqué sur le forum, "Psychose" d'Hitchcock. Il faut bien sûr prendre en compte la censure de l'époque qui ne plaisantait pas (d'ailleurs la morale est sauve puisque Marion s'est tirée avec le fric de son patron), mais tous les ingrédients du genre sont là : la voyageuse paumée, le motel perdu, le tueur psychopathe et le meurtre sanglant. Le film gore évacue la psychologie (et même la notion de suspense car on sait d'avance ce qui va se passer) et se contente de reproduire la première partie du film, d'où la nécessité de multiplier les victimes.
Mais "Psychose" repose lui-même sur le vieux thème de la maison ou du château hanté qui a connu son heure de gloire avec les productions de la Hammer, surtout dans la décennie qui a précédé le film d'Hitchock, dont il reproduit le schéma classique. C'est la transition parfaite du fantastique au film d'horreur, soit le tueur psychopathe qui préviligie les instruments tranchants prenant le relais de Dracula aux canines sanglantes et de la créature du docteur Frankenstein à la tête boulonnée (il n'y a qu'à voir la tronche des tueurs en question).
"Alien, le 8ème passager" ne fait pas exception à la règle. Il reprend les mêmes ingrédients et les adapte à une situation nouvelle. On retrouve même le thème du "voyage" avec la halte fatale (Marion dans "Psychose", le minibus de "Massacre à la tronçonneuse") assez fréquent dans le film gore, car il s'agit généralement de passer de la civilisation à un lieu vécu comme hostile, plus ou moins sauvage. Dans "Alien", si l'équipage du Nostromo n'avait pas fait un détour par l'épave du vaisseau spatial, rien ne serait arrivé.
Maintenant en quoi j'y vois une transgression ou un détournement des codes, comme tu veux ? D'abord le film lui-même transcende le genre puisqu'il mélange le film d'horreur à la SF, alors que le film gore traditionnel reste enfermé dans ses limites (pour l'aspect SF, il faut déjà noter que le Nostromo est à cent lieues des vaisseaux spatiaux rutilants et flambant neuf que le genre propose habituellement, on baigne surtout dans le cambouis). Ridley Scott fait le choix judicieux de ne montrer la créature qu'à la fin du film, et encore dans des conditions telles qu'on la devine plus qu'on la voit. Les seuls plans où on la voit dans sa totalité, c'est lorsqu'elle est éjectée du vaisseau spatial. On sait par ailleurs que le réalisateur avait tourné des scènes montrant ses victimes prisonnières des cocons, scènes qu'il avait trouvées à ce point ridicules qu'il ne les a pas retenues au montage final (ses successeurs dans la saga auraient été bien inspirés de suivre son idée, à l'exception de Jeunet peut-être qui donne dans le pastiche avec pour résultat le plus mauvais film de la série, ce qui n'est pas un mince exploit quand on songe à l'artillerie lourde de Cameron). A l'inverse, le film gore ne se prive pas des apparitions du psychopathe de service dont l'allure terrifiante est un aspect essentiel du film. Dans "Alien", le massacre des membres de l'équipage est suggéré mais jamais montré, alors que le film gore repose avant tout sur l'aspect spectaculaire des scènes de meurtre ; dans "Alien", pas la moindre trace de victimes sanguinolentes. C'est la notion de suspense qui prime avant tout et j'ai dit que le film gore en était exempt. "Alien" se déroule dans un espace clos d'où il est impossible de sortir sans se condamner à mort, alors que dans le film gore le lieu, aussi isolé soit-il, communique toujours avec un autre espace d'où peut venir la délivrance quand il n'est pas lui-même une porte de sortie. Même hantés, les châteaux ont des portes et des fenêtres !
Maintenant est-ce que "Alien" est un authentique chef-d'oeuvre du 7ème Art ? C'est là que j'aurais dû entamer un nouveau paragraphe dans mon précédent commentaire pour ne pas donner à penser que j'enchaînais sur la même idée (c'était une simple introduction destinée à ceux qui tiennent définitivement le genre pour mineur). Honnêtement, je ne le crois pas (et encore faudrait-il s'entendre sur le mot chef-d'oeuvre bien sûr). Je le tiens pour un bon film, mais qui conserve à mes yeux le défaut majeur du genre : il n'a pas grand-chose à raconter (même en y cherchant des symboles et une dimension philosophique) et repose essentiellement sur l'élaboration d'un climat et des décors imposants où on reconnaît la patte du génial et regretté Moebius. C'est aussi un film qui a assez mal vieilli comme tous les films dont la mise en scène est ancrée dans une époque dont elle reprend les symboles. Les ordinateurs de bord fonctionnant sous Dos, ça me fait penser aux écrans à tube cathodique du métro dans "Total Recall" (le premier, celui de Paul Verhoeven). Laissons-lui quand même son statut de film culte, l'expression est tellement galvaudée aujourd'hui que ça n'engage à rien.