葫芦丝主要由天然葫芦、竹管和簧片三部分组成，选择时要从三个主要组成部分加以筛选。
葫芦要选择成熟的葫芦，即颜色发黄、皮厚结实；否则，容易损坏；葫芦的大小、形状对乐器的发声及音准等没有影响，可以根据自己的喜好而确定，一般而言，只要葫芦形状相对周正，没有开裂、漏气即可。
竹管的选择比较重要。首先主、附管颜色尽量统一，竹质应该细密老成，竹面光滑，竹节较小，有一定的份量（不排除是因葫芦较老增加重量），竹节过大，有明显竹纹的，则说明竹龄太短，影响音色。
簧片的选择尤为重要，可通过试奏感觉簧片震动与竹管耦合发出的声音好坏来加以选择。一般而言，簧片应以轻、柔为佳，演奏时不费劲，低音无杂音，高音明亮，吐音时发音灵敏，尤其是最高音6（La）。一块较好的簧片在振动时通常会与竹管一起形成共振，发中、高音时手指可感觉竹管有明显的颤动。
葫芦丝的音准问题也非常重要，由于温度、湿度的变化对音准影响较大，反差要越小越好，相对稳定。鉴别音准，用全按做低音5（Sol）的指法先吹奏所有音，看看各音之间的音程关系是否准确，筒音在冷天会略高，如果用气息能够加以控制，说明偏差不大，待乐器吹热后自然就会比较准确了。就传统葫芦丝而言，建议选择筒音略高（不得超过10音分）的乐器，因为新乐器的簧片还未经过有效的磨合，一旦磨合期过后筒音的音准问题就自然解决了。有条件的朋友可以用电子校音仪、钢琴、电子琴等作为参照，以检查乐器的绝对音高是否符合国际标准。同时，附管的音高应该与主管同级音相同，而且音色统一，音量要与主管音量相协调，也可略小一些（一般附管音量最好不要超过主管，否则有喧宾夺主之嫌）。
