Quitter un CDI avant signature du contrat

Il y a quelques jours mon cdd chez mon ancien employeur prenait fin et par chance (ou pas) je retrouve un emploi dans la foulée. Je n'ai donc pas ouvert mes Droits à l'allocation chômage.

Quelques jours avant mon Embauche, mon nouvel employeur me demande ma CNI et ma Carte vitale pour rédiger la DPAE. Lors de mon premier jour, on m'annonce que mon contrat sera bien un CDI avec une période d'essai de 2 mois renouvelable une fois.
Il se trouve que le poste qu'on m'avait "vendu" n'est pas du tout ce a quoi je m'attendais, mes conditions de travail ne sont vraiment pas optimales enfin bref je ne souhaite pas rester dans cette entreprise.

Voila plus de 48h que je suis dans l'entreprise, je n'ai toujours pas signé de contrat de travail. D'après eux, ils ne sont pas obligés de m'en faire signer un.

Ma question est donc la suivante : je souhaite quitter au plus vite ce travail qui ne me plait vraiment pas, mais en le quittant aurais-je droit à l'allocation chomage ? 
Quelles démarches dois-je entreprendre pour quitter l'entreprise ? 

Est-il possible de faire comme si je ne m'étais jamais présenté au poste et par conséquent ne pas réclamer mes 2j de salaires ? 

PS: le dirigeant de l'entreprise est très spécial, je pense qu'il n'hésitera pas à me mettre des batons dans les roues s'il voit que j'ai plus a perdre que lui je n'ose donc pas lui en parler pour le moment. 

Merci par avance pour vos réponses.
Cordialement,