<div dir="ltr">Hi Matti,<div><br></div><div>Thanks for the heads-up. In this case, how can I analyse a large file? Should I split the raw file into multiple raw files, and then somehow feed all these raw files into mne_process_raw when I want to create -ave.fif and -cov.fif files?</div>
<div><br></div><div>Thank you,</div><div>Steve</div></div><div class="gmail_extra"><br clear="all"><div><div dir="ltr"><div><br><br></div>Stephen Politzer-Ahles<br>New York University, Abu Dhabi<br>Neuroscience of Language Lab<br>
<a href="http://www.nyu.edu/projects/politzer-ahles/" target="_blank">http://www.nyu.edu/projects/politzer-ahles/</a><br></div></div>
<br><br><div class="gmail_quote">On Mon, Nov 25, 2013 at 1:33 PM, Matti Hamalainen <span dir="ltr">&lt;<a href="mailto:msh@nmr.mgh.harvard.edu" target="_blank">msh@nmr.mgh.harvard.edu</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
Hi Steve,<br>
<br>
Just FYI, MNE-C does not do the splitting in mne_kit2fiff either.<br>
<span class="HOEnZb"><font color="#888888"><br>
- Matti<br>
</font></span><div class="HOEnZb"><div class="h5"><br>
<br>
On Nov 25, 2013, at 3:39 AM, Alexandre Gramfort &lt;<a href="mailto:alexandre.gramfort@telecom-paristech.fr">alexandre.gramfort@telecom-paristech.fr</a>&gt; wrote:<br>
<br>
&gt; hi Steve,<br>
&gt;<br>
&gt; looks like you&#39;ve hit a problem in our python fiff writing code that does not<br>
&gt; splits .fif files to avoid large files.<br>
&gt;<br>
&gt; We&#39;ll look into it asap<br>
&gt;<br>
&gt; Thanks for the report.<br>
&gt;<br>
&gt; Best,<br>
&gt; Alex<br>
&gt;<br>
&gt;<br>
&gt; On Mon, Nov 25, 2013 at 9:34 AM, Stephen Politzer-Ahles &lt;<a href="mailto:spa268@nyu.edu">spa268@nyu.edu</a>&gt; wrote:<br>
&gt;&gt; Hi Alexandre,<br>
&gt;&gt;<br>
&gt;&gt; It started as Yokogawa .con data, I wrote it to fif using mne.gui.kit2fiff<br>
&gt;&gt; in the mne-python tools.<br>
&gt;&gt;<br>
&gt;&gt; Best,<br>
&gt;&gt; Steve<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; Stephen Politzer-Ahles<br>
&gt;&gt; New York University, Abu Dhabi<br>
&gt;&gt; Neuroscience of Language Lab<br>
&gt;&gt; <a href="http://www.nyu.edu/projects/politzer-ahles/" target="_blank">http://www.nyu.edu/projects/politzer-ahles/</a><br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; On Mon, Nov 25, 2013 at 12:32 PM, Alexandre Gramfort<br>
&gt;&gt; &lt;<a href="mailto:alexandre.gramfort@telecom-paristech.fr">alexandre.gramfort@telecom-paristech.fr</a>&gt; wrote:<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Steve,<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; how did you write this file?<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; standard .fif file should not exceed 2GB.<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Alex<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; On Mon, Nov 25, 2013 at 7:34 AM, Stephen Politzer-Ahles &lt;<a href="mailto:spa268@nyu.edu">spa268@nyu.edu</a>&gt;<br>
&gt;&gt;&gt; wrote:<br>
&gt;&gt;&gt;&gt; Hi Eric,<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Thanks, I will keep trying various things out in the meantime. I was<br>
&gt;&gt;&gt;&gt; also<br>
&gt;&gt;&gt;&gt; concerned about file size limits, but it seems weird that other<br>
&gt;&gt;&gt;&gt; functions<br>
&gt;&gt;&gt;&gt; like mne_process_raw still work on my big files.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; If I don&#39;t find a solution, is it possible instead to just run<br>
&gt;&gt;&gt;&gt; mne_mark_bad_channels on the averaged data (and make sure to use the<br>
&gt;&gt;&gt;&gt; averaged, rather than the raw, as the --meas file in later steps of the<br>
&gt;&gt;&gt;&gt; pipeline)?<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Best,<br>
&gt;&gt;&gt;&gt; Steve<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Stephen Politzer-Ahles<br>
&gt;&gt;&gt;&gt; New York University, Abu Dhabi<br>
&gt;&gt;&gt;&gt; Neuroscience of Language Lab<br>
&gt;&gt;&gt;&gt; <a href="http://www.nyu.edu/projects/politzer-ahles/" target="_blank">http://www.nyu.edu/projects/politzer-ahles/</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; On Mon, Nov 25, 2013 at 5:20 AM, Eric Larson &lt;<a href="mailto:larson.eric.d@gmail.com">larson.eric.d@gmail.com</a>&gt;<br>
&gt;&gt;&gt;&gt; wrote:<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Hey Steve,<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; It is possible that this has to do with file locations being stored<br>
&gt;&gt;&gt;&gt;&gt; using<br>
&gt;&gt;&gt;&gt;&gt; 32-bit integers. I thought FIFF had an effective file-size limit of 2GB<br>
&gt;&gt;&gt;&gt;&gt; for<br>
&gt;&gt;&gt;&gt;&gt; that reason (using 32-bit signed integers would make this the limit),<br>
&gt;&gt;&gt;&gt;&gt; but<br>
&gt;&gt;&gt;&gt;&gt; I&#39;m not 100% sure. If nobody beats me to a more definitive answer and<br>
&gt;&gt;&gt;&gt;&gt; you<br>
&gt;&gt;&gt;&gt;&gt; can&#39;t find anything about this issue yourself by tomorrow or Tuesday, I<br>
&gt;&gt;&gt;&gt;&gt; can<br>
&gt;&gt;&gt;&gt;&gt; look into it more then.<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Cheers,<br>
&gt;&gt;&gt;&gt;&gt; Eric<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; On Sun, Nov 24, 2013 at 12:33 PM, Stephen Politzer-Ahles<br>
&gt;&gt;&gt;&gt;&gt; &lt;<a href="mailto:spa268@nyu.edu">spa268@nyu.edu</a>&gt;<br>
&gt;&gt;&gt;&gt;&gt; wrote:<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; To whom it may concern:<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; When I try to run mne_mark_bad_channels in tcsh on a raw .fif file<br>
&gt;&gt;&gt;&gt;&gt;&gt; (about<br>
&gt;&gt;&gt;&gt;&gt;&gt; 3.25 GB), I get an error like the following:<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; &quot;/Volumes/data/....../A0007.fif ... [failed] fseek : Value too large<br>
&gt;&gt;&gt;&gt;&gt;&gt; to<br>
&gt;&gt;&gt;&gt;&gt;&gt; be stored in data type&quot;<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; As far as I can tell this seems to be some kind of Unix error, not<br>
&gt;&gt;&gt;&gt;&gt;&gt; something specific to MNE...but this happens regardless of which drive<br>
&gt;&gt;&gt;&gt;&gt;&gt; I<br>
&gt;&gt;&gt;&gt;&gt;&gt; happen to be trying to modify data on, and also other functions that<br>
&gt;&gt;&gt;&gt;&gt;&gt; also<br>
&gt;&gt;&gt;&gt;&gt;&gt; need to open the data (such as mne_process_raw) work fine, so I don&#39;t<br>
&gt;&gt;&gt;&gt;&gt;&gt; think<br>
&gt;&gt;&gt;&gt;&gt;&gt; it&#39;s necessarily a permission or filesystem issue. Does anyone have<br>
&gt;&gt;&gt;&gt;&gt;&gt; any idea<br>
&gt;&gt;&gt;&gt;&gt;&gt; what might be causing this?<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; Thanks for your input,<br>
&gt;&gt;&gt;&gt;&gt;&gt; Steve<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; Stephen Politzer-Ahles<br>
&gt;&gt;&gt;&gt;&gt;&gt; New York University, Abu Dhabi<br>
&gt;&gt;&gt;&gt;&gt;&gt; Neuroscience of Language Lab<br>
&gt;&gt;&gt;&gt;&gt;&gt; <a href="http://www.nyu.edu/projects/politzer-ahles/" target="_blank">http://www.nyu.edu/projects/politzer-ahles/</a><br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; _______________________________________________<br>
&gt;&gt;&gt;&gt;&gt;&gt; Mne_analysis mailing list<br>
&gt;&gt;&gt;&gt;&gt;&gt; <a href="mailto:Mne_analysis@nmr.mgh.harvard.edu">Mne_analysis@nmr.mgh.harvard.edu</a><br>
&gt;&gt;&gt;&gt;&gt;&gt; <a href="https://mail.nmr.mgh.harvard.edu/mailman/listinfo/mne_analysis" target="_blank">https://mail.nmr.mgh.harvard.edu/mailman/listinfo/mne_analysis</a><br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;&gt; The information in this e-mail is intended only for the person to whom<br>
&gt;&gt;&gt;&gt;&gt;&gt; it<br>
&gt;&gt;&gt;&gt;&gt;&gt; is<br>
&gt;&gt;&gt;&gt;&gt;&gt; addressed. If you believe this e-mail was sent to you in error and the<br>
&gt;&gt;&gt;&gt;&gt;&gt; e-mail<br>
&gt;&gt;&gt;&gt;&gt;&gt; contains patient information, please contact the Partners Compliance<br>
&gt;&gt;&gt;&gt;&gt;&gt; HelpLine at<br>
&gt;&gt;&gt;&gt;&gt;&gt; <a href="http://www.partners.org/complianceline" target="_blank">http://www.partners.org/complianceline</a> . If the e-mail was sent to you<br>
&gt;&gt;&gt;&gt;&gt;&gt; in<br>
&gt;&gt;&gt;&gt;&gt;&gt; error<br>
&gt;&gt;&gt;&gt;&gt;&gt; but does not contain patient information, please contact the sender<br>
&gt;&gt;&gt;&gt;&gt;&gt; and<br>
&gt;&gt;&gt;&gt;&gt;&gt; properly<br>
&gt;&gt;&gt;&gt;&gt;&gt; dispose of the e-mail.<br>
&gt;&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; _______________________________________________<br>
&gt;&gt;&gt;&gt; Mne_analysis mailing list<br>
&gt;&gt;&gt;&gt; <a href="mailto:Mne_analysis@nmr.mgh.harvard.edu">Mne_analysis@nmr.mgh.harvard.edu</a><br>
&gt;&gt;&gt;&gt; <a href="https://mail.nmr.mgh.harvard.edu/mailman/listinfo/mne_analysis" target="_blank">https://mail.nmr.mgh.harvard.edu/mailman/listinfo/mne_analysis</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; The information in this e-mail is intended only for the person to whom<br>
&gt;&gt;&gt;&gt; it is<br>
&gt;&gt;&gt;&gt; addressed. If you believe this e-mail was sent to you in error and the<br>
&gt;&gt;&gt;&gt; e-mail<br>
&gt;&gt;&gt;&gt; contains patient information, please contact the Partners Compliance<br>
&gt;&gt;&gt;&gt; HelpLine at<br>
&gt;&gt;&gt;&gt; <a href="http://www.partners.org/complianceline" target="_blank">http://www.partners.org/complianceline</a> . If the e-mail was sent to you<br>
&gt;&gt;&gt;&gt; in<br>
&gt;&gt;&gt;&gt; error<br>
&gt;&gt;&gt;&gt; but does not contain patient information, please contact the sender and<br>
&gt;&gt;&gt;&gt; properly<br>
&gt;&gt;&gt;&gt; dispose of the e-mail.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt; _______________________________________________<br>
&gt; Mne_analysis mailing list<br>
&gt; <a href="mailto:Mne_analysis@nmr.mgh.harvard.edu">Mne_analysis@nmr.mgh.harvard.edu</a><br>
&gt; <a href="https://mail.nmr.mgh.harvard.edu/mailman/listinfo/mne_analysis" target="_blank">https://mail.nmr.mgh.harvard.edu/mailman/listinfo/mne_analysis</a><br>
&gt;<br>
&gt;<br>
<br>
</div></div></blockquote></div><br></div>