Contrôle par geste d'un drone

Extrait de la présentation du projet

« On s'intéresse dans ce projet à contrôler un drone à l'aide la main. On utilisera pour ce faire une kinect, placée à l'horizontal, au dessus de laquelle on placera la main du contrôleur. La kinect fournit des informations sur la profondeur des objets placés en face d'elle. On peut alors régresser un plan sur les échantillons et utiliser deux inclinaisons et la distance pour contrôler le roulis, le tangage et l'altitude d'un drone. »

Utilisation du dépôt

Après avoir créé un espace de travail catkin :

#!sh
mkdir -p ~/hand_control_ws/src
cd ~/hand_control_ws/src
catkin_init_workspace

vous devez cloner le dépôt de telle sorte que le dossier «hand_control» se situe dans le dossier «~/hand_control_ws/src/», par exemple :

#!sh
git clone git@bitbucket.org:_Luc_/handcontrol.git
mv -t ~/hand_control_ws/src handcontrol/* handcontrol/.git
rmdir handcontrol

Le contenu du dépôt se trouve alors dans «~/hand_control_ws/src».

Cf. le Wiki pour l’installation de ROS, PCL et des pilotes pour la Kinect et le drone.

Recherche documentaire

Consulter le dossier /rechercheDoc

Un etherpad est disponible à l'url suivante : http://etherpad.rezometz.org/p/handcontrol

Conclusion de la recherche

Bibliothèques à regarder :

• PCL (PointCloud) : beaucoup, beaucoup de choses...
  • les tutoriels
  • pcl::NormalEstimation & pcl::NormalEstimationOMP pour régresser un plan
    • en particulier computePointNormal qui sert l’équation du plan sur un plateau
    • explication ici
  • pcl::ConditionalRemoval pour filtrer les points (critère de profondeur (plus simple a priori) ou couleur)
• AR Drone :
  • ardrone_autonomy

Pour l’interface Kinect on a le choix entre :

• l’interface fournie par PCL, qui récupère directement un PointCloud utilisable par PCL à partir de la Kinect :
  • openni_wrapper::DeviceKinect & openni_wrapper::OpenNIDevice pour parler à la Kinect
  • openni_grabber : tuto, doc
• l’interface fournie par les packages ROS :
  • OpenKinect / libfreenect avec freenect_stack qui publie des sensor_msgs::Image
  • puis conversion des sensor_msgs::Image en pcl::PCLPointCloud2 avec pcl_conversions::moveToPCL du package perception_pcl, cf. pcl_ros
  • puis utilisation avec pcl_ros (conversion automatique std_msgs/PointCloud2 => PointCloud), sinon conversion manuelle avec pcl::fromPCLPointCloud2 ou pcl::fromROSMsg

Publication & Souscription à des topics de PointCloud avec pcl_ros

Important

Avant de coder, regarder :

• les conventions d’écriture du code du projet ROS
• le guide du développeur

Mail du responsable de projet (extrait)

Donc sur le principe du projet :

• on place une kinect pointant vers le haut de laquelle on va extraire un nuage de points (PointCloud) correspondant à une main placée au dessus. D'ailleurs, je pense qu'on prendre un gant de couleur unie bien criarde pour facilement filtrer les points d'intérêt et ne s'intéresse qu'à ceux de la main.
• on régresse un plan sur le point cloud
• on utilise les paramètres du plan pour définir le roll, pitch, altitude d'un drone;

Il vous faut donc dans un premier temps :

• faire les tutoriels de ROS (jusqu'au tutoriel sur les publisher et subscribers en C++/Python); Pour installer ROS sur votre machine, c'est beaucoup plus simple à ma connaissance d'installer ubuntu (http://wiki.ros.org/)
• regarder comment on définit/utilise des launch files sous ROS, ce qui facilite grandement le lancement de plusieurs noeuds (http://wiki.ros.org/roslaunch)
• regarder et utiliser la kinect sous ROS en utilisant freenect; Notamment regarder les nœuds et ce qu'ils publient sur leurs topics (http://wiki.ros.org/freenect_camera), il y a notamment une image de profondeur et une image RGB;
• regarder et utiliser le drone sous ROS : (par exemple : http://wiki.ros.org/ardrone_driver)

J'ai sorti une kinect, elle est posée sur un des bureaux de la smartroom.

Pour rappel, à la fin du projet, je vous demanderais de me remettre un rapport et de faire une soutenance.