Contrôle par geste d'un drone

Extrait de la présentation du projet

« On s'intéresse dans ce projet à contrôler un drone à l'aide la main. On utilisera pour ce faire une kinect, placée à l'horizontal, au dessus de laquelle on placera la main du contrôleur. La kinect fournit des informations sur la profondeur des objets placés en face d'elle. On peut alors régresser un plan sur les échantillons et utiliser deux inclinaisons et la distance pour contrôler le roulis, le tangage et l'altitude d'un drone. »

Recherche documentaire

Consulter le dossier /rechercheDoc

Un etherpad est disponible à l'url suivante : http://etherpad.rezometz.org/p/handcontrol

Conclusion de la recherche

Bibliothèques à regarder :

• OpenKinect / libfreenect
• PCL (PointCloud) : beaucoup, beaucoup de choses...
  • pcl::NormalEstimation & pcl::NormalEstimationOMP pour régresser un plan
    • en particulier computePointNormal qui sert l’équation du plan sur un plateau
  • pcl::ConditionalRemoval pour filtrer les points (critère de profondeur (plus simple a priori) ou couleur)
  • openni_wrapper::DeviceKinect & openni_wrapper::OpenNIDevice pour parler à la Kinect

Peut-être GNU GSL si on ne trouve pas notre bonheur ci-dessus (peu probable).

Important

Avant de coder, regarder les conventions d’écriture du code du projet ROS.

Mail du responsable de projet (extrait)

Donc sur le principe du projet :

• on place une kinect pointant vers le haut de laquelle on va extraire un nuage de points (PointCloud) correspondant à une main placée au dessus. D'ailleurs, je pense qu'on prendre un gant de couleur unie bien criarde pour facilement filtrer les points d'intérêt et ne s'intéresse qu'à ceux de la main.
• on régresse un plan sur le point cloud
• on utilise les paramètres du plan pour définir le roll, pitch, altitude d'un drone;

Il vous faut donc dans un premier temps :

• faire les tutoriels de ROS (jusqu'au tutoriel sur les publisher et subscribers en C++/Python); Pour installer ROS sur votre machine, c'est beaucoup plus simple à ma connaissance d'installer ubuntu (http://wiki.ros.org/)
• regarder comment on définit/utilise des launch files sous ROS, ce qui facilite grandement le lancement de plusieurs noeuds (http://wiki.ros.org/roslaunch)
• regarder et utiliser la kinect sous ROS en utilisant freenect; Notamment regarder les nœuds et ce qu'ils publient sur leurs topics (http://wiki.ros.org/freenect_camera), il y a notamment une image de profondeur et une image RGB;
• regarder et utiliser le drone sous ROS : (par exemple : http://wiki.ros.org/ardrone_driver)

J'ai sorti une kinect, elle est posée sur un des bureaux de la smartroom.

Pour rappel, à la fin du projet, je vous demanderais de me remettre un rapport et de faire une soutenance.